Техономия: как да поправим какво не е наред с google и facebook

Може би най-изненадващата тема на тазгодишната Techonomy беше как разстрои много от ораторите с Facebook, Google и Twitter, като критиките бяха фокусирани върху техния подход към поверителността и по-специално върху възможната роля, която изиграха в разрешаването на руското хакване на изборите през 2016 г.

Голямо разнообразие от говорители настоява за различни видове регулиране на тези "Интернет гиганти", и никой от никоя от гореспоменатите компании не беше на конференцията, за да предложи алтернативна гледна точка. Това беше много различно от миналогодишната конференция, когато главният изпълнителен директор на Facebook Марк Зукърбърг заяви, че идеята, че фалшивите новинарски новини във Facebook влияят на изборите, е „доста луда идея“.

Оттогава, както отбеляза съоснователят на Techonomy Симоне Рос, научихме, че „технологията ни прави толкова лесно да ни разделим, колкото да ни обединим“. Съоснователят на конференцията Дейвид Киркпатрик (по-горе) зададе тон на конференцията, като каза, че „технологията е сила за добро, но само ако доброто е вашата цел“ и продължи, като заяви, че вярва, че големите технологични компании имат нужда от „проактивна пресечна точка "с правителството, независимо дали се нарича регулиране или не.

Авторитет в мрежов, изкуствено интелигентен свят

Известният инвеститор Роджър Макнаме от Elevation Partners, ранен инвеститор както във Facebook, така и в Google, беше може би най-негативният от всички оратори. McNamee заяви, че тези компании са "започнали да спасяват света", но че това се промени, когато рекламата стана техен бизнес модел. Той каза, че смартфонът, когато се комбинира с лична информация, направи възможно „да се създаде ниво на хакерство на мозъка, което никога не е било виждано в медиите“.

Макнаме каза, че вярва, че Зукърбърг е искрен, когато каза, че не вярва, че подобно хакване е възможно преди година, но каза, че ролята, която сега играят Google и Facebook, не може да бъде надценена. Той коментира, "трябва да е трудно да ги бъдете сега и да осъзнаете, че сте унищожили западната цивилизация."

danah boyd, Data & Society; Роджър Макнами, партньори по височина; Марк Ротенберг, Електронен информационен център за поверителност (EPIC); Stratford Sherman, Comppli

Тази дискусия се проведе в част от панел на тема „Авторитет в мрежов, изкуствено интелигентен свят“, който включваше и Данах Бойд, социален учен с данни и общество и Microsoft Research; Марк Ротенберг, президент на Електронния информационен център за поверителност (EPIC); и модератор Стратфорд Шерман от Comppli. Шерман каза, че докато Facebook и Google стартират като форуми за публична реч, те са "коренно нерегламентирани". С ИИ, който би могъл да повлияе основно на човешката раса на хоризонта, Шерман каза, че се притеснява от нежеланите последици от технологичното развитие, които вече видяхме.

Ротенберг каза, че макар да продължава да се притеснява от традиционните опасения за поверителност относно проследяването и профилирането, той също е загрижен от липсата на конкуренция, липсата на иновации и риска за демократичните институции. Той каза, че интернет гигантите имат огромна сила и данните, които притежават, създават истинска бариера за влизане, така че няма значима конкуренция. Ротенберг каза, че е във Вашингтон от времето на администрацията на Рейгън и за първи път „изборите през миналата година не се чувстваха познати“.

В по-ранна сесия, Бойд, който написа книга, наречена It’s Complicated , говори за трудността да се изправим срещу манипулацията в Интернет.

Тя говори за ескалиращ процес на манипулация през последните 20 години, който започна с деца, които тролеят Опра и премина към „рикъл“ и за неща като промяна на резултатите от търсенето на името „Санторум“. Съвсем наскоро с Gamergate по-голям актьорски състав станаха играчи, включително държавни актьори. Бойд каза, че интернет компаниите смятат, че AI може да ги защити, но групите, които се опитват да манипулират резултатите, вече експериментират с обработка на естествен език и най-важното - подправяне на източници на данни. Според нея, инжектирането на лоши данни в система е нова уязвимост. Все пак Бойд каза, че единственият отговор ще бъде "изграждането на технически антитела в нашата индустрия".

В тази сесия Бойд каза, че технологичните компании се съобразяват с манипулацията на няколко фронта и отбеляза, че докато всички гледат Русия, има много други държави, които извършват подобни действия. Например, китайските компании се опитват да гарантират, че ще контролират ИИ, и тя каза, че това представлява различно предизвикателство, тъй като не става въпрос за индустриална конкуренция, а за конкуренция с държава.

Попитан от Шерман дали това е война, Бойд каза, че според нея е така, докато Макнаме каза, че това е класическа партизанска война, тъй като враговете ни са използвали нашата технология срещу нас. McNamee заяви, че проблемът не е в социалните мрежи или търсенето, а в рекламния модел. Той каза, че в битката за вниманието на хората веществото се погребва чрез усещане и цитира старата поговорка, че „ако кърви, това води“.

Шерман отбеляза, че страхът и гневът са много по-магнетични и следователно много по-евтини. Той каза, че въпреки че органичните съобщения са били използвани за достигане на повече от 125 милиона души, целта на усилията е рекламите да се сегментират хората в групи въз основа на споделени интереси.

Ротенберг заяви, че е за това алгоритмите да станат прозрачни и рекламата регулирана, но каза, че трябва да зачитаме правото на хората да говорят онлайн. Но Макнаме каза, че „първото изменение е въоръжено“ и че онлайн пространствата са коренно различни от публичния площад.

Бойд описа това, което нарича „ефект на бумеранг“, или с други думи идеята, че провокира медиите да съобщават за възмутителни неща, е смисълът, защото това засилва оригиналното послание към сегмента на аудиторията, който има недоверие към медиите. Като пример, boyd говори за Pizzagate. Тя отбеляза, че преди интернет медиите често са използвали „стратегическо мълчание“, за да избягват да отразяват неща като самоубийства и митинги на Клан, за да не ги публикуват.

Ротенберг се съгласи, че голяма част от тази традиция на усърдие и надзор е загубена и каза, че неща като раздел 230 (който казва, че интернет компаниите не носят отговорност за неща като публикации от потребителите) затрудняват конкуренцията на традиционните новини.

Попитан за решения, Макнаме каза, че Facebook е култ и че той трябва да спре да отрича проблема и да се справи с него, както и да започне да се занимава с „депрограмиране“, като достига до всеки от своите потребители. Ротенберг популяризира идеята за регулиране. И Бойд ми предложи, че трябва да инвестираме пари в обществото, за да „ре-мрежа“ Америка.

Разчитане с новите хегемонисти

Марк Махани, RBC Capital Markets; Дейв Морган, Симулмедия; Джойс Ванс, Университета в Алабама; Дейвид Киркпатрик, Техономия

В ранен панел на тема „Считане с новите хегемонисти“ почти всички се съгласиха с Джойс Ванс от Университета в Алабама, който каза, че технологията наистина надминава закона, който отчаяно трябва да навакса. Но Ванс предупреди, че съществува и риск от „пропускане“ на политически отговори.

Дейв Морган от Симулмедиа заяви, че "ще има регулиране", въпреки че каза, че е възможно големите компании да успеят да избегнат голяма част от неговото въздействие.

Морган отбеляза, че историята на медийната индустрия дава паралели с това, което виждаме сега, тъй като вестниците биха се разглеждали като печатарски компании, а компаниите за ранно излъчване са се виждали като технологични компании. Всички те дават възможност за предоставяне на контакт с потребителите, което е ясно какво правят Google и Facebook. Много антитръстови дела възникнаха в резултат на такава концентрирана медийна власт и правителството успя да ги управлява. Една голяма разлика днес е, че другите технологии изискват географски връзки, от които интернет компаниите нямат нужда.

Венс отбеляза, че в момента Сенатът обмисля законопроект, който ще изисква тези компании да съхраняват рекламната си история, както и да уточни кой плаща за политически реклами. Но Морган посочи, че това са глобални компании с по-широк обхват. Попитан за европейските разпоредби за поверителност GDPR, Венс каза, че САЩ може би са отстъпили ръководството на ЕС в тази област. Тя каза, че не смята американските компании да могат да изпълняват изискванията по различен начин в различни географски области, така че по подразбиране компаниите ще спазват европейските разпоредби.

Марк Махани от RBC Capital Markets заяви, че компаниите вече са регулирани, по-специално в Европейския съюз, като Google по-специално е под контрол за групиране или популяризиране на услугите си, заедно с резултатите от търсенето му или с Android. Киркпатрик каза, че смята, че антитръстовото споразумение всъщност помага на Microsoft, но Махани контрира, че не регулаторите спират Microsoft, а конкуренцията.

Могат ли технологията и правителството да спасят демокрацията?

Тим Хван, FiscalNote; Minnie Ingersoll, Code For America; Марк Ротенберг, Електронен информационен център за поверителност; Моли Търнър, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Лорънс Норден, Юридическо училище в Ню Йорк

Подобна тема се появи на кръгла маса за закуска, озаглавена „Могат ли технологията и правителството да спасят демокрацията?“, В която модераторът Джон Fine от списание Inc поиска решения. Кръглата маса обаче не излезе никаква.

Хван каза, че проблемът не е в технологичните платформи, а по-скоро в гнева, който хората изпитват в резултат на изключване от икономиката.

Лорънс Норден от Центъра за Бренън в Юридическото училище в Ню Йорк каза, че законите, изискващи повече оповестяване на политическите реклами, са лесен отговор, но че за съжаление големият проблем са "мрачните публикации" или публикации с неизвестен произход. В това отношение, каза той, Интернет е по-скоро като градски площад.

Но Ротенберг каза, че е точно обратното и че Интернет е по-скоро като град на компанията, където платформите определят правилата и решават какво ще видите. Minnie Ingersoll от Code For America попита дали проблемът е чужда намеса или Google контролира това, което казваме. Регулаторите трябва да разберат по-добре проблемите, каза тя.

Моли Търнър от UC Berkeley Haas School of Business заяви, че Интернет се е превърнал в най-голямото средство за изява, но се притеснява, че подкопава гражданския дискурс. От друга страна, тя се притеснява от изискванията към платформите да премахват определени видове информация (ако Законът за благоприличие в комуникациите е отслабен, например, или поради други видове регулиране), защото изведнъж в този случай платформата става „арбитър на реч."

Ротенберг отговори, че докато автомобилните компании навремето се бориха с правилата за безопасност, в крайна сметка те помогнаха за това автомобилите да бъдат по-безопасни и доведоха до повече иновации. Стабилната регулаторна среда всъщност може да помогне на платформите, предположи той. Ротенберг отбеляза, че технологичните компании са изтласкали "неутралитет на мрежата" за телекомуникационните компании, но не и за себе си, и призова за равнопоставеност.

Интернет под атака

Марк Андерсън, служба за стратегически новини; Peder Jungck, BAE Systems Intelligence & Security; Ребека Маккинън, Нова Америка; Дейвид Киркпатрик, Техономия

Заключителен панел, наречен "Интернет под атака", продължи тази дискусия.

Ребека Маккинън, която ръководи проекта за класиране на цифрови права в Нова Америка, заяви, че веднъж е имало предположение, че поради интернет авторитарните режими в крайна сметка ще станат по-скоро като демокрации. Сега тя се страхува повече, че авторитарните режими и демокрациите ще се „срещнат по средата“.

Маккинън заяви, че авторитарните режими адаптират интернет към своите цели, докато демокрациите са изправени пред популизъм, манипулация и "надзорен капитализъм". Но, каза тя, демокрациите трябва да внимават относно регулаторния отговор - макар да е съгласна, че има нужда от повече прозрачност, що се отнася до алгоритмите и поверителността, тя се притеснява, че цензурната система ще улесни разграждането на частите на правителството на обществото презира.

Педър Юнг, който ръководи разузнаването и сигурността на BAE Systems, се съгласи, че правителствата биха искали да използват такива системи за намиране на дисиденти и каза, че една идея е продукт и като всеки продукт може да бъде избутан. На въпрос дали рекламните системи са оръжейни, той каза: „Кутията на Пандора е отворена и не можем да се върнем“.

Марк Андерсън, от Стратегическа служба за новини, каза, че сме виждали права линия от дните на ARPANET, когато няма лоши момчета, до днес, когато виждаме все по-злонамерено поведение от деня.

Андерсън беше особено ясен, когато описва как Китай краде интелектуалната собственост и го използва, за да изгони компаниите от бизнеса. И той предположи, че хакът Equifax има всички белези на правителствена атака. Обобщавайки, Андерсън заяви, че „не вижда решение“.

Юнг каза, че трябва да приемем, че лошите са в нашите системи и да работим върху решения. Например той каза, че социалният осигурителен номер вече не може да бъде сигурен, така че вместо това може да се нуждаем от решение за блокчейн.

В проекта за класиране на цифрови права MacKinnon оценява 22 световни компании по 35 въпроса за неща като свобода на изразяване, поверителност и сигурност. Тя каза, че две компании имат "Ds", а всички останали се провалиха. Тя иска да знае какво правят компаниите с вашите данни; с кого го споделят; дали извършват надлежна проверка, оценки на сигурността и управление на риска; и дали защитават поверителността и сигурността, съдържанието и изразяването. Прозрачността не е достатъчна, каза тя, но е необходима първа стъпка.

Андерсън каза, че прозрачността е добро нещо, но не и решение, и отбеляза, че някой, който иска да манипулира система, не трябва да плаща за реклами, но може да използва 100 000 ботнета. След това Киркпатрик предположи, че компаниите могат да наложат идентичност и по този начин да намалят използването на ботнети.

Но Макинън контрира, че най-уязвимите към използването на такива системи са правозащитниците, защото ако наложите идентичност, тогава никой, който се противопоставя на авторитарното правителство, няма да бъде в социалните мрежи.

Юнгк се запита защо трябва да наложим самоличност, когато сайтовете вече знаят кой сте и какво ще купите. "В интернет няма анонимност, отдавна я няма", каза той. Единствената разлика е колко време отнема да разберете кой сте.

В заключение Маккинън заяви, че е оптимист в много дългосрочен план, но за следващите 100 години "не толкова".

Слушайки всичко това е лесно да бъдете песимистични или поне фатални по отношение на необходимия размер на регулирането и въздействието, което ще окаже. Но все пак съм склонен да бъда оптимист и макар да смятам, че някаква доза допълнителна регулация е вероятна и необходима, вярвам, че е също толкова вероятно днешните интернет гиганти - или някои бъдещи играчи - да намерят по-добри отговори.

Колко вероятно е да препоръчате PCMag.com?