Технология: иновации, ай и етика

Някои от любимите ми сесии на конференцията по техономия по-рано този месец се занимаваха с етиката, ценностите, иновациите и как изкуственият интелект влезе в игра в тези области.

Човешки ценности за технологична епоха

Основателят на технологията Техономия Дейвид Киркпатрик започна конференцията с разговор за фокуса върху човешките ценности на технологиите. Първият голям разговор беше за „човешките ценности“ с Джули Хана, изпълнителен председател на Кива, която говори за технологията като демократизираща сила и отбеляза, че голяма част от света живее с по-малко от 2 долара на ден. Тя каза, че „най-голямата форма на справедливост е справедливият достъп“.

Преподобният Майкъл К. Макфарланд, касиер, Североизточна провинция на САЩ от Обществото на Исус, каза, че трябва да се запитаме къде е справедливостта по отношение на начина, по който се използва технологията, и да мислим за предположенията, вложени в технологията. Той се притеснява, че технологията на работното място, която може да доведе до по-голяма ефективност и производителност, често се използва, без да мисли за въздействието върху работниците, които понякога търпят пагубно въздействие. Той призова публиката да започне, като помисли за опита на работника.

Ерика Кочи, изпълнителен директор по иновациите и съосновател на UNICEF Innovation, отбеляза, че преди седем години нямаше добро технологично решение, насочено към най-бедните от бедните, а единственият общ знаменател беше текстовото съобщение. Нейната група се съсредоточи върху изграждането на свои собствени решения с помощта на текстови съобщения и отбеляза, че въпреки че има много евтини телефони с Android, ОС е създадена за хора с план за данни, а не за тези, които живеят с по-малко от $ 2 на ден. "Ако ще изградим продукти и услуги за хора, които не сме ние, трябва да помислим за това от тяхна гледна точка", каза тя.

Хана говори за „фалшивия избор между цел и печалба, между мисия и продукт“ и каза, че ръководените от мисии култури са по-добри места за работа, създаване на по-голяма лоялност и подпомагане на изграждането на трайни компании. Кочи каза, че можете да направите и двете, и каза, че основният бизнес модел трябва да бъде приведен в съответствие със социалната отговорност, което не трябва да бъде нещо, което се прави отстрани.

McFarland говори за фокусиране не само върху акционерите, но и върху всички заинтересовани страни в една компания и използва като пример Bell Labs на AT&T преди разпадането на компанията. Той се притеснява от неуспеха да инвестира в дългосрочни научноизследователски и развойни дейности и заяви, че „трябва да променим културата за това как мислим за бизнеса и какво означава да бъдем успешни“.

Библиотека

Впечатлих се в по-късен разговор на Тони Маркс, президент на Обществената библиотека в Ню Йорк, който каза, че за разлика от предположението, че някои библиотеки си отиват, той вижда новата технология като най-добрата възможност в историята за това, което библиотеките винаги са отстоявали - помагат на хората да имат достъп до информация.

Той отбеляза, че в миналото библиотеките бяха възпрепятствани от физическите и финансови ограничения за постъпване на хора в колекциите, но каза, че това се променя.

Библиотеките могат да окажат влияние по три големи начина, каза той. Първият е само чрез свързване на хора и той отбеляза, че една трета от американците нямат връзка с интернет у дома, но библиотеките могат да служат и за обучение на хората как да използват компютри, както и как да кодират.

Той каза, че докато днешните търсачки са "невероятни", те имат ограничения и отбеляза, че много от основната информация за качеството, получена от хилядолетия усилия, все още не е налична. Той каза, че визията му е да предлага покровители на библиотеката „всяка книга, всеки образ, всеки документ и всеки архив навсякъде по света безплатно“.

Всичко се връща към старомодното понятие за библиотека като основа, каза Маркс и ни призова да си представим дали всички таланти в света имат способността да учат, създават и иновации, колкото и да изберат. "Ние разполагаме с инструментите, за да го направим неудържим", каза той. "Хайде да го направим."

Богове в кутии: Всемогъщи алгоритми и скрити ценности

Орен Бойман, съосновател и главен изпълнителен директор на Magisto, който използва AI за редактиране на видео, каза, че "компютрите стават все повече и повече черни кутии", като алгоритмите, създадени от невронни мрежи, бият най-добрите алгоритми, проектирани от програмисти. Въпреки че тези алгоритми могат да вземат решения далеч по-добре от хората, никой не разбира съвсем как го правят.

Вивиен Минг, съосновател и изпълнителен председател на Socos, който продава софтуер, който помага на децата да учат, като изпраща по една препоръка на ден до родителите си, говори за създаването на интелигентни алгоритми. Тя каза, че голяма част от работата с дълбоките невронни мрежи зависи от тренировъчните набори и говори за алгоритъм за разпознаване на лица, който не разпознава черни лица поради присъщи пристрастия в обучението. "Компютрите са точно като хората", каза тя. „Зависи как ги отглеждаш“.

Главният учен на Yahoo Рон Брачман каза, че въпреки че използваме антропоморфизирани термини, за да опишем машините, все още има фундаментална разлика между хората и компютрите в момента. Хората взимат решения въз основа на своите нужди и желания, което е много различно от начина, по който изчислителните системи взимат решения в наши дни.

Boiman обясни как в повечето от тези "черни кутии" всичко е свързано и малките промени в въвеждането могат да направят големи, а понякога и хаотични разлики в резултатите, например когато видеоклиповете стават вирусни. Той каза, че това прави нещата непредсказуеми и е трудно да се проследят нещата до случилото се първоначално. Брахман отбеляза, че както нямаме начин да контролираме това, което децата учат, същото важи и за изчислителните механизми.

Интелигентни бизнес машини

Дискусията на AI и възникналите етични въпроси продължи в друг панел с ръководителите на някои по-специализирани софтуерни компании. Бабак Ходжат, съосновател и главен учен от компанията за машинно обучение Sentient Technologies, каза, че въпросът за етиката е малко разсейващ, когато става въпрос за AI, и че етиката влияе и на всякакви други технологии, вариращи от смартфони до оценки на FICO, Джордж Джон, председател и основател на рекламната рекламна компания Rocket Fuel, отбеляза предимствата на технологиите и каза: „Ако AI наистина работи, хората трябва да се приберат по-рано“. Той говори за необходимостта от нови умения за управление и за управление както на хора, така и на умни машини. Той също така говори за търсене на приложения на AI, които не са подходящи само за големи компании, но биха могли да се възползват и от физическите лица.

Джаг Дъгъл, SVP на Product Management за компания за измерване на аудитория Quantcast, каза, че това са инструменти, предназначени да ни направят по-продуктивни, да направим повече неща и да увеличим капацитета си. Той каза, че има много иновации и производителност, които могат да излязат от това, и каза, че въпреки че има опасения технологията да стане твърде добра, той е много по-загрижен за ограниченията на технологиите.

Той беше особено загрижен за стимулите и какво се случва, когато алгоритмите за машинно обучение в крайна сметка следват грешни стимули. Например той отбеляза как на пазара на онлайн рекламно разположение продавачите на електронна търговия дават кредит на последната реклама, която човек видя преди да направи поръчка. Това води до насочване на повече реклами, след като човек вече е посетил сайт за електронна търговия и често след като някой е решил да купи; с други думи, когато рекламата може да се пропилее. Quantcast се опитва да даде по-добри примери, каза той.

Джон Щайн, основател и изпълнителен директор на базираната на AI инвестиционна компания Betterment, говори за доброто, което технологията може да направи, и се съгласи, че е важно да се определят ясни стимули. Той говори за спазване на доверителните стандарти, като например да действа в интерес на клиента си и каза, че прозрачността има голяма роля, така че хората да разберат къде могат да възникнат конфликти.

Щайн каза, че технологията ще затрудни да бъде престъпник във времето, но Дуггал каза, че е по-скептичен, защото мошениците имат и технология. И все пак той е впечатлен от потенциала на технологиите и посочи пример на проект от Google, при който AI може да идентифицира ракови заболявания при бенките по кожата. Той каза, че се притеснява от „неправилно определяне“ на проблема от противниците на технологиите.