У дома Appscout Елън Улман за кода, съвестта и музея на мен

Елън Улман за кода, съвестта и музея на мен

Видео: 5 НОВЫХ ЛАЙФХАКОВ С КОНСТРУКТОРОМ LEGO 4K (Септември 2024)

Видео: 5 НОВЫХ ЛАЙФХАКОВ С КОНСТРУКТОРОМ LEGO 4K (Септември 2024)
Anonim

За този епизод на „Бързо напред“ разговарях с Елън Улман, автор на „ Животът в кода“, поредица от есета, които започват през 1994 г., когато тя беше програмист в Силиконовата долина. Сега тя живее с писане предимно на художествена литература, но Улман остава запален наблюдател на региона, технологичната индустрия и как инструментите, които правим, ни променят ежедневно.

Дан Коста: Корените ви за програмиране се връщат доста назад. През 1978 г. бяхте английски майор, който реши да премине в програмиране. Защо би направил нещо подобно?

Елън Улман: Е, аз се забърках в група, която прави видео, Sony Portapak беше една от онези машини като компютъра. Тези неща, които са били контролирани от бехемот корпорации, изведнъж са били във вашите ръце. Бихте могли да направите свои собствени видеоклипове, свои собствени истории. Можете да заобиколите и да им покажете. Нямаше ограничения. Можете да правите порно и т.н., а това беше много вълнуващо време. Научих, че ми харесва работата с машини. Възможността за работа с тези машини за социална промяна и изкуство беше интригуваща. В крайна сметка оставих Итака, за да отида в Сан Франциско.

Човек трябва да напусне градския град или да стане жалък. И един ден се разхождах по Маркет Стрийт, а там на прозореца на скъпо зарязаната радиостанция беше TRS-80 - нежно известен като Trash-80 - и си помислих: „О, това нещо е като Portapak? Какво може правиш ли с това нещо? Можеш ли да правиш изкуство, социален активизъм?

И така по импулс, аз го купих. И тогава се появи въпросът за програмирането. Малко по-трудно е от това да започнете с Portapak, натиснете бутона. Трудно ми беше, но доброто трудно. Мисля, че всеки, който иска да се занимава със софтуерно инженерство, трябва да усети: „Да, това е трудно, но и удоволствието от лова“. Ако няма някакво усещане за съблазняване относно решаването на проблеми, това ще бъде много нещастно изживяване.

И хората днес не разбират съвсем точно, че тогава, когато купихте TRS-80 в Radio Shack, това не се случи много. Трябва да го накарате да прави нещата. Трябва да се научите как да го използвате и това е нещо като поканата, на която сте го приели?

Да, имаше празен екран. Това беше вече остаряла телевизия по онова време. Имаше клавиатура и вие записвахте програми на касета с макари до макари. И мисля, че издържа 4K. Това беше максималният размер на програмата. И имаше основата на езика. И не знам дали хората знаят разликата между тълкувания и съставен език. Тълкувано означава, че просто го изпълнява точно пред вас. Така че, вие знаете, въведете две точки, знаете, две плюс две и това ви показва четири. Това е лесно, вървете първите малки неща. Правенето на нещо значително беше много трудно, особено след като в началото BASIC имаше много капани. Както бихте могли да кажете „Отиди“, но не се върна автоматично. Така че можеш да изгубиш пътя си в заплитането и той беше известен като кода на Геди. Отново беше разочароващо и интригуващо.

Когато преглеждах книгата и говорите за онези ранни години, това, което ме поразява, са хората, с които сте работили. Почти изглежда по-скоро като колекция от артисти, отколкото инженери и хардкор програмисти. Можете ли да поговорите малко за esprit de corps или за хората, с които сте работили?

Да. Ако погледнете назад и - знаете кой е марката Стюарт, Каталогът на лектоните на целия Земя, кладенецът - това беше една от първите онлайн общности. И хората бяха привлечени от това. Нали знаете книгата на Джон Маркоф, Какво каза Покойникът ?

Сигурен.

Нали знаете, стопани и отпаднали хора и хора, които просто бяха луди и искаха да се забавляват. Това беше атмосферата, която ме привлече, като Портапака. Това бяха хора, които се забавляваха, изследваха. И първите хора, с които работех, когато трябваше да си взема работа и да изкарвам прехраната, също бяха такива. Бивша танцьорка от суфи, жена, която прави дисертация и история на изкуството, някакъв тип от Франция, който пушеше гаулоизи, въпреки че пушенето не беше разрешено. И той щеше да каже: „Компютър никога не ми е казвал да спра да пуша“. И това са хората, с които сме работили.

Някъде около '83 до '86 г. тя се промени. Компютърните науки станаха обичайна степен, софтуерно инженерство. И към нас се присъедини силно мъжка, самоизбрана група, която беше учила компютърни науки като бакалавърска степен. И атмосферата напълно се промени. Хората бяха по-трудни за разговор. Според моя опит, не бяха толкова добре закръглени. Това е много широко обобщение.

Работих с мъже, които бяха много добре закръглени. Бихте могли да цитирате Шекспир с най-доброто от тях. Но цялата тази атмосфера се промени. Предполагам, че професията трябваше да загуби невинността си.

Как бяхте вдъхновени да правите кодиране?

Е, отново беше: "Леле, какво е това?" Знаеш ли, когато стартирах първата си истинска програма, имаше прилив на удоволствие. "Леле, работи. Направих това." Премина от нищо към нещо. И беше като първия път, когато оправих карбуратор. Знаеш ли, разделяш нещата. Слагате ги отново и колата тръгва, нали? Така че това е рядко удоволствие и е трудно да се стигне. След като имах това чувство, малко ми приличаше на наркотик. Имате толкова високо и след това го губите и след това го връщате, или се опитвате да го направите.

Говорите много за това в книгата. Казвате, всеки трябва да се научи как да кодира, защото е трудно. И тази трудност в крайна сметка ще бъде усещането за удовлетворение, което получавате от него.

Не казвам на всички да се научат да кодират. Както казах, хората трябва да бъдат изложени на него. Въпросът е да демистифицирате код. Ние сме заобиколени от алгоритми, които ни контролират, и това не е новина за никой, който току-що беше хакнат от Equifax, например. Една трета от възрастното население на Съединените щати. И така, смисълът е да знаете достатъчно, че е писано от хора и може да бъде променяно от хората.

В Бронкс има съветник, който предлага законопроект там, че районът разглежда всички алгоритми, които използват, и преминават от полицейски задачи към графици за събиране на боклук до това в какво училище ходят децата и търсят пристрастия в тях. Това е процесът, който се надявам, че хората в широката общественост започват да виждат, че тези неща могат да бъдат променени. Те имат пристрастия и това може да бъде адресирано.

Това ни отвежда до една от основните ви точки, а именно, че самият код съдържа предубеждения в съдържанието. И мисля, че с алгоритмите го извежда на съвсем различно ниво. Но в зависимост от това кой е написал кода, той ще отразява определени политически пристрастия, културни пристрастия. Можете ли просто да поговорите малко за това как това се вгражда в самия код?

Е, софтуерните инженери не определят кой код ще бъде написан. Това идва от върха. А хората на върха са много богати, преобладаващо бели мъже и желанието им е това, което според тях е голямо за обществото или какви са задачите.

Например, обикновено приложение за доставка, избрани пощенски кодове. Какво означава това? Че не можем да правим пари с хора с пределни доходи? Или не искаме да изпращаме коли горе? Това е прост пример. Той навлиза, всичко пазарува ли? Това ли е нужно на хората? Какъв вид социална гледна точка изразява това?

Всичко е до алгоритмите и дори по-дълбоко от това. Току-що прочетох книга от Филип Рогауей. Той го представи през 2015 г. и става дума за моралните последици от криптографията. И говори за криптографията като власт. За кого го пишеш? За какво го използват? И така можете да видите от най-простото приложение, до самото дъно на това, което се счита за математическо, пристрастията са вградени.

Мисля, че си сложил пръст върху него, когато говориш за „Дали всичко пазарува?“ защото със сигурност всичко се мотивира от търговията сега и причината да се насочите към определени пощенски кодове е, защото можете да правите пари в тези пощенски кодове. И това оформя продукта и тогава той се превръща в този усилващ цикъл. Същото се случва с всеки институт. Това е причината, поради която Amazon купува Whole Foods, а не Stop & Shop. Това е заради тези демографски пристрастия и това е просто пазарът на работа. Но тези пазарни сили в голяма степен определят технологичното развитие и сега.

Имам пример за нещо, което смятам, че е просто прекрасно. Имаше група, която говореше: „Това е кодиране от самото начало“. Не, хората не седят в своите оградени със стъкло помещения, в които работим, решавайки, че „Аз съм с нестопанска цел и това ще е от полза за обществото и ще променя света“. Това е група, която работи на място с недокументирани работници.

Сега тези момчета стоят на ъгъла на улицата и се качват от някой в ​​пикап или микробус, а след това те биват свалени по-късно, а някои от тях не получават заплата. Затова те питат: "Как можем да сигнализираме помежду си? Не влизайте в това. Това е лош човек." Това е нещо като ерата на депресията. Хобос, който поставяше тези знаци и казваше, че знаете: "Тук живее лош мъж. Тук живее любезна жена."

И така, те се приближиха до група. Отново стигна до кодерите от земята. И те казаха: "Можете ли да ни построите нещо?" Повечето от тези хора имат мобилни приложения - приложението поддържа анонимността, разбира се - и те могат да поставят в тази регистрационна табела. "Търсиш това и не приемаш работата." Бихте могли да попитате, някой прави ли пари? В крайна сметка, да, защото тези хора, които са отчаяни от работата, не са излъгани толкова.

Това е като система за репутация. Същият тип репутация, същата, която е вградена в Uber, където ездачите получават рейтинг, а шофьорите получават рейтинг, а в идеалния случай най-добрите шофьори и най-добрите състезатели получават възнаграждение по някакъв начин. Това е увлекателен пример. Имате ли съвет за хора, които са нови за кодиране или търсят да го проучат като вариант за кариера?

Съветвате хората, които искат да го изследват? На първо място, навсякъде има срещи. Не, не бива да казвам навсякъде. Те също са в избрани пощенски кодове. В района на залива има хиляди и хиляди, където можете да се регистрирате и да се срещате с други хора, които ще ви научат да кодирате. Има някои особено за жените. Това е много полезно.

Търсих други места в страната. Бъфало, Ню Йорк, Ютика, Ню Йорк. И нямаше нищо. И така, какво правим с това? Така че масово онлайн курсовете изглеждат възможни. И едно от нещата, за които писах, и това, което направих, беше, добре, да се запиша, за да го проверя. И видях същите пристрастия в учителите.

Правеха предположения за американската култура. И добре, искате да спечелите милиард долара. Един милион не би ви бил достатъчен. Все същото. Мисля, че хората могат да изтеглят тези видеоклипове, да си съберат група, нали знаете. Стискаш езика към човека, който ти казва социални глупости. И си помагайте взаимно и се научете да кодирате.

Има и академии за кодове, които струват хиляди долари и те всъщност се затварят. Те гарантират на хората, ще спечелите три цифри в рамките на осем месеца. Не мисля, че това е добър маршрут. В идеалния случай училищата биха го преподавали. И нямам предвид, че кодирането се присъединява към хуманитарните науки като основна грамотност. Мисля, че хората с хуманитарни науки трябва да разгледат кодирането, за да донесат тези знания на хората, които са изучавали история и социология и чужди езици, как живеят другите хора по света. Внесете това в кодиращата арена.

Искам да поговоря малко с вас за социалните медии. Още през 1998 г. написахте есе, наречено Музеят на мен, и чувам, че тази фраза се обвързва, сякаш е чисто нова. Но вие за първи път пишете през 1998 г. и казахте, че интернет ще ни позволи да изградим „Частен мисловен балон“, четейки само онези уебсайтове, които подсилват желаните от него убеждения, което е точно там, където изглежда днес.

Някак си го нарекохте, описвахте интернет като цяло, но социалните медии изглежда просто са стигнали до това на съвсем ново ниво. Съжалявам, че съм прав за това. Имаше неща, които видях да се случват, предполагам, че в сърцето си се надявах да бъдат предупреждения. Но, знаете ли, току-що написах за малка публикация тогава…

Мисля, че това вероятно беше в Харпър . Така някак, поколението на selfie пропусна статията на Харпър , за съжаление.

Е, какво четат? Те четат емисии, знаете ли. Значи емисиите им казват какво се случва днес. Между другото е много трудно да седнем и поговорим с теб за деня, след като в Лас Вегас имаме това ужасно клане. И повече от 50 убити и стотици ранени. Наистина не знаем степента на това.

И знаете ли, пушките са технология. Индустриалният дизайн е технология. Знаете ли, ние сме склонни да мислим за това като за готини телефони и лаптопи и AI, сървъри и алгоритми. Хората обаче проектират този апарат, който позволява на пистолет да изстреля стотици куршуми с един изстрел. И това наистина ме спира. Знаеш ли, че в такива дни е трудно да се развеселиш. Искам да кажа, че аз съм представител на мрака като цяло, но този особено ме спря.

Трудно е всеки просто да премине през деня в такива дни. Но една от точките, които продължавате да повдигате, е, че всички технологии имат тези имплицитни ефекти и че те не са неутрални и много от етичните разговори, които обграждат всякакви други дебати относно политиката, за политиката, социалните въпроси, обикновено не се случват в технологичното пространство, защото инженерите го изграждат, пазарът го иска. Дизайнерите го изграждат, изпращат го и тогава ние живеем с последствията.

Но изглежда на всеки завой, независимо дали става въпрос за технологията на пистолета, софтуерен код, достъп до услуги, трябва да проведем разговор за последствията.

Това би била моята надежда. Затова написах тази книга, надявайки се да започна разговор на различни нива, знаете ли. Не това, което е целта на бъдещето. Бъдещето е това, което създавате от него сега, провеждайки разговор. Човешкото желание задвижва бъдещето. Това е нашата прерогатива. Също така, за да погледнем към миналото. Друга причина, поради която исках да се върна в средата на 90-те, е, че се научихме от миналото.

Само гледането напред те учи много малко, защото това е всичко фантазия. Но ако се върнем назад и видим как стигнахме до мястото, където сме, и тенденциите, които ни докараха тук, успехите, които хората имаха в миналото, неща, които научихме. Има хора, които са живели преди нас, които познавате, и са работили по компютърни технологии повече от нас. Навлизаме в 100 години, предполагам знаете, в един момент започваме с идеите за това. Затова се надявам хората да се спрат и да се образоват. За да погледнете назад и да опитате да видите как са стигнали там, където са.

Какво мислите за естеството на технологичната индустрия по отношение на числеността на лидерите? С Google и Amazon, Apple и Microsoft говорите за четири компании, които абсолютно доминират над цели индустрии. Уеб индустрията, индустрията на дребно, индустрията за развлечения. Има ли тези компании, има ли нещо просто да е твърде голямо, което създава собствен проблем?

Това е добър въпрос. Да, те са твърде големи. Всички трябва да живеем с тях много дълго време. И компания като Apple се представя като социално прогресивна. Тези компании обаче са дълбоко либертариански. Те не искат правителството да ги контролира, освен когато те искат правителството да ги предостави.

Вижте какво се случва с всички тези градове, умоляващи Амазонка да влезе в средата им. "О, няма да се налага да плащате данъци за 20 години." Така правителството им помага. Това искат тези компании. Те не искат регулиране. Не виждам в тази политическа атмосфера как ще правим това. Нямаме Върховен съд, който да казва: "Това са монополи. Ще ги разделим."

Това е правилният въпрос. Да, те са твърде големи. Много хора трябва да се справят с това, което правим от тук.

Какъв е проблемът с тях? Тъй като има компании, никога не съм виждал частна компания, която да е поискала повече регулация. Какъв риск има тези големи гигантски компании? Дали те ще използват пазарната си сила за експлоатация на потребителите? Дали те няма да правят иновации, защото имат по същество монополи във всички тези различни индустрии?

Е, те ще експлоатират потребителите. Предстои ни повече наблюдение. Има повече конкуренция. Мисля, че те не могат просто да седнат и да кажат: „Не правя научноизследователска и развойна дейност. Но се страхувам, че много от това идва от закупуването на други компании. Стартъпите имат тези идеи и след това се купуват. И тогава те разтварят вълнуващите си сили, ако имат такива, в тези по-големи корпорации.

Но тези корпорации не могат да седнат и не правят нищо. Вижте какво се случи с Microsoft. Наистина изостана. Вижте Intel. Intel беше един от гигантите. Сега е зад. Хората вече не използват големи компютри, а лаптопите имат различни чипове и изобщо не допринасят за мобилни устройства. Така че те ще трябва да иновации. Надявам се, че не го правят, като просто купуват компании на други хора и след това разреждат ефектите на тези компании, което изглежда се случва.

Имате есе за Милениум бъг, което повечето хора ще трябва да Google, за да разберат какво е било. Но аз ви казвах, преди да тръгнем в ефир, че всъщност бях в нюзрум в новогодишната нощ през 1999 г. и никой наистина не знаеше какво ще се случи. Знаехме, че личните компютри вероятно ще са добре, но всички бяха притеснени от това какво се случва в електроцентралата с този компютър в задната стая, който никой не е проверявал след 10 години. Но можете ли да поговорите малко за това, което се е случило тогава, и след това какви уроци могат да ни водят днес.

Едно от нещата, което беше чудесно в това, е причината да срещна програмисти, които бяха написали този код през 60-те, които казаха: „Никога не съм очаквал, че този код ще живее толкова дълго“. Компанията Texaco беше единствената голяма корпорация, която имаше желание да публикува публично и да каже: „Това не е измама. Това е, което правим. Това са проблемите, с които се сблъскваме“.

А усилията им бяха героични. И имаше малки местни неща, които не бяха публикувани. Но в сърцето си знаех, говорейки с тези посветени програмисти и ръководители на проекти, че ще бъде добре, защото те наистина планират. Урокът за нас сега е, че все още използваме целия този стар код. Имаме този лъскав преден край и след това имате интернет, което наистина е под стрес. И това е много стар код.

Причината да имаме всички тези хакове е, че интернет никога не е бил създаден за поверителност и анонимност. Той е проектиран да бъде колегиален и отворен. Никой не е изградил идеята, че ще има тези гръмотевични отделения. Така че ние имаме уязвимост там. Връщаме се към сървърите, които правят алгоритми, това е в операционната система, наречена Linux. Linux се връща назад.

Ако отидете по-дълбоко и по-дълбоко в това, което се крие зад хубавите неща, ще намерите стар код, стар код, стар код. И програмистите пишат неща, които се движат отгоре на другия код, и не винаги - често не го разбират - подробности за нещата, с които се общуват. Така че урокът продължава.

Отличен. Искам да поговоря малко с теб за AI. Изглежда, че сме в това положение с интернет, което има всички тези нежелани последствия, които все още се опитваме да изредим - и сега раждаме тази изцяло нова технология, която има всички тези последици. Отивате в много компании и те имат AI системи, които работят, които вземат бизнес решения и дават препоръки и те буквално не могат да разберат как са стигнали до там. Те не могат да идентифицират процеса, който стигна до заключението. Те просто знаят, че работи. Можете ли да поговорите малко за това какво може да означава?

Те смятат, че работи. Тенденцията в момента в AI, цялата идея за хуманоиден робот, който не можем да кажем от човек, наистина е отминала пътя. Това доказва, че е много, много трудно да се разбере как човешките същества функционират по начина, по който го правят. Сега е машинно обучение. Идеята е, че пишете алгоритъм. Гледа резултатите и той се променя, а след това гледа резултатите и се учи.

Това, което се случва е, хората, които са написали този оригинален алгоритъм, наистина не знаят какво се случва след няколко повторения. И кодът се отдалечава все по-далеч от хората, които го разбират. Значи, това е вид чудовище, в смисъл, че оперира самостоятелно. И да, тя работи, но какво липсва?

Той работи върху данни, които имат пристрастия. Той има пристрастие преди всичко към миналото. Има грешки. Така че това, от което се учи, също е предубедено и склонна към грешки. В това отношение се притеснявам от AI, особено идеята за самостоятелно управление на автомобили. И че говорим за действителна вреда на човека. И можех да говоря твърде дълго за това, така че по-добре да спра.

Повечето от прогнозите казват, че самоуправляващите се автомобили ще бъдат по-безопасни от човешките шофьори, което считам, че човешките шофьори са голяма част от проблема по пътищата днес.

Човешките шофьори имат 100-годишна история на шофиране на автомобили. Така че ето какво могат да направят хората - те не гледат само на близостта около тях. Знаеш кога караш, дори и да си невнимателен, ако имаш някакъв опит, можеш да видиш пред себе си, четвърт миля, половин мила нагоре по хълма, че всичко е задръстено, и ще трябва да се приготвиш да спреш, Можете да прочетете личността на автомобилите. Някой идва на далечната лента там. Виждате марката, модела, агресивността на водача. Когато тази кола се движи, знаете, че ще ви отреже. Не чакате аларма за близост. Човешките същества знаят по начини, че на светкавица това или ще се сблъскам, или ще изпадна в пътна ярост с тази кола. Или ще кажа: „Добре, продължете напред“.

Сега, нека да преминем към начините, по които самоуправляващите се автомобили могат да катастрофират. Отново разчитат на интерфейси машина-машина. И ще има грешки в този код, период. Така че те ще комуникират по интернет или по някаква безжична мрежа. Голяма уязвимост там. Виждахме, че колите, работещи на безжична мрежа, вече са били хакнати от бели хайпъри, които показват: „Вижте, мога да накарам колата ви да шофира извън пътя“.

И така, как е защитено? И тогава има интерфейс между различни марки и модели. Сега мислите ли, че всички ще карат Prius? Не, хората искат различен вид изпълнение. Така че отново ще има конкуренция за това как работят автомобилите, как шофьорът или пътниците искат да се чувстват, когато са на път.

Ще има някакъв стандартен API, Application Interface, които са известни предразположени към грешки. Но има много, много точки на провал, които могат да се случат там. Освен това те не могат да шофират в снега.

Има това.

Има това. Искам да кажа, разбирате ли, бихте били безполезни?

Мислите ли, че ще имаме самоуправляващи се автомобили, които просто ще бъдат много склонни към грешки и към рискове за сигурността? Или че не мислите, че всъщност можем да изградим безопасна самоуправляваща се кола и че технологията ще отнеме много повече време, отколкото хората мислят?

Мисля, че ще се случи. Мисля, че при ограничени достъпи като автостради ще работи добре. Освен ако не вали сняг или има обилен дъжд. Трябва да вижда линиите. И тогава трябва да види светлините за късане и светлините на колите около него. И така, с ограничени гледни точки, те добавят други LIDAR и т.н.

В крайна сметка ще работи. Ще отнеме малко повече време. В момента мисля, че има някои градове, които изграждат инфраструктура в центъра на града за автомобилите. Но ние сме тук в Манхатън и имаме проблеми с поддържането на нашите метро. Мислите ли, че ще вземем милиарди долари, за да превърнем Манхатън в място, което има сензори за самостоятелно управление на автомобили? Не знам, след стотици години, ако Манхатън не е бил наводнен от изгряващите морета?

Ще бъде там. Но мисля, че еуфорията - и както обикновено съм мрачният представител - имам чувството, че съм на тревата, а има и други, които наистина знаят какво правят, а аз съм като бълха, подскачаща от другата страна накрая, опитвайки се да натиснете малко надолу и изравнете гледните точки. Темперирайте очакванията. Всеки трябва да знае упоритата работа, която трябва да свършим, преди да може да се изпълни прекрасното очакване.

Ще ви задам няколко въпроса, които задавам на всички, които идват в шоуто. И този трябва да е лесен за вас. Коя технологична тенденция ви вълнува най-много? Има ли нещо, което да те поддържа през нощта? Можем да направим съвсем друго шоу.

Всички гореизброени. Това не ме поддържа през нощта. Искам да кажа, че прекарвам достатъчно време за размисъл за това през деня. Знам, един от въпросите, които мисля, че сте възнамерявали да зададете, е, трябва ли хората да правят пауза от всичко това? Да.

Днес бях почти изхвърлен на улицата от някой, който идваше на скутер.

А телефон?

С уши и телефон. Така че това наистина ме засяга. Хората наистина можеха да се наранят.

Хората се нараняват всеки ден в Ню Йорк, защото всички гледат телефона си и ходят.

Да, живея в южната част на пазара. Базиран съм в Сан Франциско на стартови алеи, втора улица. Сега е едно да се каже, че всеки гледа телефона си, но когато се опитате да тръгнете по улицата с глава на север, когато всички се насочват на юг, и 100 души гледат в телефоните си, това наистина е така, чувствам се като ' живея в извънземен свят.

Елън Улман за кода, съвестта и музея на мен