Гари Каспаров казва, че ай може да ни направи „по-човешки“

Гари Каспаров беше една от първите жертви на революцията за автоматизация на ИИ. Загубата му от Deep Blue на IBM го направи първият шампион по човешки шах, който загуби мач с компютър. Но Каспаров не е затънал; книгата му „ Дълбоко мислене “ изследва как ИИ всъщност може да ни помогне да станем по-хора.

Истинското предизвикателство, каза ми Каспаров в SXSW в Остин този месец, е запазването на тези инструменти от хората, които искат да ги използват, за да направят вреда. И в това отношение може би вече сме закъснели.

Дан Коста: След кариера в игра на шах и битка в Deep Blue, оттогава вие ставате експерт по шахматен AI. Как искате хората да разбират изкуствения интелект?

Гари Каспаров: Трябва да призная, че знам границите на своето невежество. Ето защо аз съм щастлив да говоря за неща, в които съм уверен в собствения си опит и мисля, че имам известни познания в отношенията човек-машина и бих могъл да говоря с известен авторитет за бъдещите резултати.

Също така вярвам, че все още сме в много ранна възраст на ИИ и трябва да обсъждаме дори някои термини. Става въпрос за семантика, за философия и винаги казвам, че хората смятат, че сме в ерата на Windows 10, докато все още сме всички в MS-DOS.

В този момент е много важно всъщност да разберем: "Какво е AI? Когато казваме AI, какво имаме предвид?" Защото ако попитате 10 експерти за AI, се обзалагам, че ще получите 11 или 12 отговора. Все още има доста разногласия.

Все още има подробности, но мисля, че като цяло признаваме добре, има група хора, които ще наречем оптимисти, изправени пред голямата тълпа съдби. По някакъв начин обществеността е по-готова да приеме сценарии за обреченост, мисля, че е инстинктът ни да се страхуваме от бъдещето, което също е интересно, защото когато се върнете към 50-те и 60-те години, научната фантастика беше много оптимистична. Всичко беше за нас, просто работех с машини.

Сега, когато погледнете 70-те, 80-те, 90-те години, той се пренасочва към дистопично зрение. Става въпрос за терминатори. Става въпрос за Матрицата, а сега научнофантастичният жанр е почти мъртъв, защото става въпрос повече за фантазия, а за магия. Хората наистина се страхуват да говорят за бъдещето, защото не сме сигурни какво ще се случи там. Мисля, че трябва просто да признаем, че AI не е магическа пръчка, но не е терминатор. Това не е предвестник на утопия или дистопия. Това е инструмент. Това е нещо, с което трябва да намерим начин да се справим.

Това не е отваряне на портите на ада, но не е рай. Това не е решение за всичко. Това не е спасение. Нека да разгледаме проблемите на Земята и най-голямата ми тревога днес не е за роботи убийци или някаква виртуална реалност, която би могла да съсипе усещането ни за реалността, а е за лоши актьори. Става въпрос за терористи. Става въпрос за скалното пространство с помощта на тази технология, за да ни навреди. Винаги казвам, че хората… имат монополно зло. Това е мястото, на което би трябвало, мисля, че се концентрираме, но също така трябва да признаем, че AI може да направи толкова много неща за нас, защото това, което хората ще кажат: "О, AI създава нови предизвикателства. AI може да отнеме много работни места." Точно. Именно това се случи с работните места в селското стопанство, работните места в производството. Разрушителните технологии винаги унищожават индустриите, но в същото време създават нови работни места.

Казвам, че технологията е основната причина, поради която толкова много хора са все още живи да се оплакват от технологии, защото просто не признаваме, че средният живот е нараснал, мисля, че 45, 47 в началото на 20 век до сега 75, благодарение на технологията. Искаме ползи, искаме удобство и не гледаме на цената. Хората купуват Alexa или изтеглят приложение за разпознаване на лица и след това се оплакват от поверителността. Време е да разберем какво очакваме от тези технологии, така че как искаме да се справим с тях? Как могат да подобрят живота ни и в същото време да признаем, че не бива да спорим за разлятото мляко. Ще стане.

Не трябва да се питаме дали искаме или не, това се случва. Всеки опит за удължаване на агонията и забавяне на процеса, мисля, че е просто контрапродуктивен, защото работни места, които са обречени, не могат да бъдат спасени. Но трябва да мислим за нови индустрии. Как можем да създадем нови работни места, които ще ни помогнат да създадем… финансова възглавница, която да се грижи за тези, които са останали?

Дан Коста: Това беше една от точките, които правите в „ Дълбокото мислене“ . AI ни дава възможност да бъдем по-човешки. Мисля, че трябва да извлечем това и да накараме хората да се чувстват и разбират.

Гари Каспаров: Докладът на McKinsey за пазара на труда в САЩ през 2016 г. беше ясна демонстрация. Колко малко творчество е използвано?

Много от задачите, които правим повтарящи се, сурови. Интелектуалните работни места също могат да се повтарят. Те могат също така да бъдат лесно изпълнени от машините далеч по-ефективно. Ето, стигате дотам, че това, което научихме от игрите… на шаха, от голфа, от всяка друга игра, е стига да имаме създадена от хората рамка и знаем какво правим, машините ще се справят по-добре.

Просто трябва да признаем, че във всяка затворена система машините ще бъдат по-добри. Между другото, не е нужно да разбираме как правят това. Това е още една грешка. Искаме обяснение. Машините биха могли да го направят по много неудобен начин от нашите стандарти. Самолетите летят бързо, а птицата нагоре размахва криле. Ето защо мисленето, че машините ще ни превъзхождат дори по грешки в интелекта, като правите нещо, което разбирате, че е грешно. Трябва да потърсим резултатите и това е другият проблем за бизнеса, тъй като има толкова много регулации, които изискват от тях да обяснят какво правят, но обяснението може да не е налице, ако искате да търсите ефективност и производителност.

Дан Коста: Вие изложихте случая на сцената за Go и нещото, което направи Go AI толкова по-ефективен, е когато той сам се научи как да играе играта. Нямаше наложени от човека правила.

Гари Каспаров: Сега е същото като шахмата. Отново, бъдещето на отношенията между човешката мисия ще бъде много по отношение на собствените хора, действащи като овчари, защото ще трябва да намерим начин да създадем тези готини системи, областите на тесен интелект, където машините ще свършат работата много по-добре от всеки човек, След това, за да видите как се свързват. Тези области на тясна интелигентност към общо поле, към отворена система. Отново звучи лесно, но мисля, че това е голямо предизвикателство, защото помещението за хората и отношенията им с машините може да се свива все по-малко. Дори може би последните няколко десетични знака, но няма значение. Може да е далеч по-ефективно, защото има толкова много мощност. Канализирането му или промяна на посоката за 0, 1 процента от градуса от този ъгъл може да има огромна, масивна разлика, цел на една миля.

Дан Коста: Едно от нещата, което ме тревожи за AI е, че добрите AI системи се задвижват от много и много данни и наистина страхотни алгоритми. Ако погледнете чийто е получил повечето данни в това пространство в момента, това е голяма технология, това са правителствата на държавата. Как виждате ролята на индивида в тази ИИ революция? Защото изглежда има някаква асиметрия на достъпа до тези нови технологии и различни мотиви.

Гари Каспаров: Да. Не можех да се съглася повече. Имаме този проблем и мисля, че обществото признава този проблем, но все още не е достатъчно натискът на правителствата в действителност да наложат много строги правила и много наказателни мерки върху корпорациите, които нарушават неприкосновеността на личния живот.

Едно от моите притеснения като председател на Фондация за правата на човека е, че правилата се различават от демократичния свят до свободния свят. Намирам много тревожно, че тези многонационални гиганти - като Google, Apple, Microsoft, Facebook - те прилагат много различни правила за своите клиенти в Америка или Европа, както и за тези, които не са имали толкова късмет да се родят в свободния свят и да живеят в Китай, Русия, Турция - където публикуването на данни от социалните дейности буквално може да бъде въпрос на живот и смърт. Мисля, че това е стъпка номер едно, но също така трябва да признаем, ако данните се произвеждат, те ще бъдат събирани.

Сигурен съм, че има много начини, по които правителствата могат да ограничат използването на тези данни. Също така мисля, че това е бонусът на публичната страна, защото след показанията на Марк Зукърбърг в Сената на САЩ, които намерих… беше невероятно проявление на невежество от американските законодатели. Те не можеха да задават добри въпроси в продължение на пет часа; имаха го на гореща седалка и това беше загуба. Не видях обществено възмущение. Такава голяма възможност е пропусната.

Простият съвет: „Нека ги разделим“. Това не е стандартно масло. Ако просто започнете да се разделяте - а аз мразя монополите - но тогава ще имате много, много Googles с данни, разпространени наоколо. Трябва да намерим начин за овластяване на хората. Не познавам блокчейн технологиите, но вероятно това е начинът да помогнем на хората да контролират собствените си данни и собственото си бъдеще. Мисля, че все още има момент, в който е първоначалната концепция за интернет, социална мрежа. Сега изведнъж става дума за социални медии. Хората просто не разпознават. Не е семантична разлика.

Дан Коста: Монетизира се по съвсем различен начин.

Гари Каспаров: Става въпрос за свързване на хора. Става въпрос за цялата идея как да ни обединим. Как да заложите индивида, да получите достъп до данни и да произведе нещо, което би могло да му бъде от полза и просто да бъде част от тази глобална система. Социалните медии са различни, вие сте целта. Вече сте… целта за големите корпорации. Как да се върнем към тази концепция на социалната мрежа? Нямам решения, признавам си невежеството тук по отношение на техническите решения, но знам, че точно тази философия е правилният въпрос, който трябва да бъде зададен. Мисля, че обществеността не разбира сериозността на това предизвикателство.

Дан Коста: Ти си руски гражданин...

Гари Каспаров: Също хърватски гражданин, имам Е-паспорт, така пътувам.

Дан Коста:… живеете в Съединените щати, но сте писали много за пропагандата, нейните ефекти и нейните правомощия и как се използва от руското правителство. Тук, в САЩ, вече имаме Facebook, Twitter, медийната вселена на Google, която е почти като частна пропагандна машина, до която могат да бъдат достъпни правителства, от отделни компании. Отново, като някой, който се е занимавал и разбира тези въпроси, какъв съвет имате за САЩ? Докато навлизаме в тази система, където вече не можем да повярваме на това, което виждаме онлайн.

Гари Каспаров: Вижте, аз съм изправен пред възхода на фалшивата новинарска индустрия и фабриките за тролове в Русия на Путин от началото на този век. Приблизително около 2004-2005 г. експертите по пропагандата на Путин, момчетата от КГБ, взеха вярно решение да не следват Китай чрез защитни стени. По-скоро, създаване на фалшиви интернет сайтове, които носят много реална информация, тези отровни парчета. Вместо да имате първа страница на подходящ вестник, историята, която всеки трябва да следва, партийната линия, можете да я разпространите на много парчета, на десетки парчета. Поставете го в пакет, увит в много истински истории.

Не е толкова просто да се каже, Гари Каспаров е враг на държавата. Не, някой казва, че Гари Каспаров е враг на държавата, но тогава някой друг идва да каже „не“, но беше страхотен шахматист, но вероятно сега той беше проникнат от глас и пропаганда. Някой ще каже: не, не, не, той е добър човек. Така че цялата страница с коментари може да бъде фалшива.

Дан Коста: Ботовете спорят с ботове.

Гари Каспаров: Ботове и те са много добри в това, така че един ден, когато Путин нападна американските избори в САЩ, той наистина имаше повече от 10 години опит в тези индустрии. Работа в Русия, в съседни страни с големи руски общности в Източна Европа, в Западна Европа.

В книгата си „ Зимата идва: Защо Владимир Путин и враговете на свободния свят трябва да бъдат спрени , 2015 г., казах, че това е само въпрос на време. Не е ако, но кога и къде ще атакува. Защото отново, те вече са изградили тази машина и тя е сравнително евтина. Все още става дума за милиарди долари инвестиции, но в сравнение с откритата военна интервенция, конфронтация… тя е сравнително евтина. И също така, тя отговаря на манталитета на Путин от КГБ, неговия КГБ, шпионски произход. Така вместо открита конфронтация, той винаги търси възможност за проникване. Това са класическите методи по джудо, вие използвате силните страни на противника си срещу него. За Путин това беше блестящо, защото това беше западната технология и свободният свят и можете да го използвате, за да подкопаете самата основа на свободния свят.

Дан Коста: Имате ли съвет как да излезете от тази ситуация? Защото изглежда, че се случва, всъщност не е спрял.

Гари Каспаров: Не, и няма да спре. За всеки, който има неограничен опит, отговорът е очевиден. Защитата е губещо предложение. В киберсигурността можете да изградите защитите, но в края на деня единственият отговор е възпирането. Това е като Студената война, харесва ви или не ви харесва, това е кибер студена война. Ние сме под постоянни атаки на Путин или други врагове на свободния свят. Независимо дали това са държави като Иран, Северна Корея или Китай, или квазидържавни организации, които също използват същите методи.

Само възпирането може действително да спре тези атаки или да ги ограничи. Защото те ще разберат последствията от прекалената агресия. Опитвайки се да защитим слабите си места тук и там, важно е да изградим някакви защити. Важно е да повишаваме информираността на обществеността относно заплахите, но това няма да работи. Що се отнася до индустриите за фалшиви новини, в нашето свободно общество има много предизвикателства, които позволиха на индустрията за фалшиви новини. Става въпрос за страх от партизанство, а за липса на диалог между хора с различни идеологически възгледи, които помогнаха на Путин и други врагове на свободния свят да използват фалшивите новини, за да преодолеят тази пропаст.

Дан Коста: Така че, сега работите с Avast, компания, с която читателите на PCMag са много добре запознати. Какъв съвет давате на потребителите как да повишат нивото на отбраната си?

Гари Каспаров: Що се отнася до индивидуалното ниво на защита, това е много лесно. Първото послание е към собствениците на умни домове. Бях малко шокиран, защото дори на този юг от югозапад разговарях с много хора, хора с добра експертиза не разбират колко уязвими са умните домове днес.

Американското домакинство, 39 милиона имат поне едно уязвимо устройство. Хората не разбират, че едно уязвимо устройство прави целия интелигентен дом уязвим. Защото силните страни на вашата отбранителна пирамида зависят от най-слабата връзка. Една лоша ябълка кара целия пакет да гние.

Повечето проблеми се създават от производителите на традиционни домакински уреди - перални, кафе машини, тъй като няма опит в изграждането на цифрови системи. Но те трябва да го направят сега. На много ниска цена, защото това е ценова конкуренция, но те искат да бъдат част от системата. Повечето системи просто нямат адекватна защита. Мисля, че се нуждаем от… държавен надзор, трябва да оказваме натиск, за да принудим да отговаряме на определени стандарти.

Но също така трябва да предоставите отделни наръчници, защото никой не чете наръчник от 100 страници. На страница 85 четете нещо за тези цифрови неща, хората не го четат. Повечето от тях използват режим по подразбиране, което разбира се е отворена покана за хакер. Мисля, че е много важно хората да започнат да правят това, което наричам дигитална хигиена, защото си мием ръцете, мием зъбите си, правим го автоматично. Това не ни спасява от някои сериозни заболявания, но 90 процента от проблемите могат да бъдат избегнати. Същото с нашите мобилни устройства, все още трябва да се предпазваме от вируси, но много неща бихме могли да направим, като демонстрираме, че се грижим за него, защото това е толкова важно, колкото здравето ни.

Дан Коста: Така че искам да ви задам трите въпроса, които задавам на всеки, който идва в шоуто. Има ли технологична тенденция, която ви засяга и която ви поддържа през нощта?

Гари Каспаров: Не, аз съм непоправим оптимист. Притеснявам се за лошите хора, а не за лошите технологии, защото всяка технология има двойна употреба. Можете да изградите ядрен реактор, но преди това, за съжаление, изграждате ядрена бомба. Доста жалко е, че разрушаването е по-лесно от строителството. Ето защо в историята винаги знаем, че нова, разрушителна технология е тествана за някаква повреда.

Дан Коста: Не се ли притеснявате, че същото ще се случи и с AI? Ще се използва за унищожаване, преди да свикне да създава?

Гари Каспаров: Отново не става въпрос за роботи убийци. Става въпрос за лоши момчета, лоши актьори зад това. Хората ще кажат о, трябва да помислим за етичен ИИ. AI не може да бъде по-етичен от своите създатели. Не разбирам какво означава, като етично електричество. Ако имаме пристрастия в обществото си, AI го следва. То вижда различие, независимо дали е расово, полов признак или различие в доходите. Взема го под внимание; AI е алгоритъм, базиран на коефициенти. Така че някак да се оплаквате от етичен ИИ е като да се оплаквате от огледало, защото не харесваме това, което виждаме там.

Дан Коста: Има ли технология, която използвате всеки ден, която все още вдъхновява чудото?

Гари Каспаров: Не. За мен истинското чудо на света е достъпът до информация. Тъй като мога да събирам данни, това го прави по-лесно. Израснах в Съветския съюз, а информацията беше оскъдна, нямаше много книги. Сега, факт е, че мога да запаля… просто ме кара да се чувствам добре. Има толкова много технологии, които ни заобикалят сега, че ни помага да се подобрим. Освен това, какво е невероятно, хората продължават да се оплакват, о, какво можем да направим? Няма нищо ново, което може да се измисли… и казвам изчакайте секунда. Погледнете това устройство в джоба си, нека се върнем назад през 1976 или 1977 г., суперкомпютърът Cray беше като чудо. Това устройство е какво? Десет хиляди пъти по-мощни?

• AI е (също) сила за добро AI е (също) сила за добро
• Този AI е твърде мощен, за да се публикува на публика Този AI е твърде мощен, за да се публикува на обществеността
• Този AI предсказва онлайн тролинг, преди да се случи Този AI прогнозира онлайн тролинг, преди да се случи

Дан Коста: По-мощен от космическата совалка.

Гари Каспаров: Точно така. Имаме толкова много сила и… искам отново да започнем да мечтаем за големи. Защото ние имаме тези възможности сега. Много съжалявам за космическата надпревара, спряхме космическото проучване, дълбоко океанските проучвания. Да се ​​върнем, нека се опитаме да правим големи неща. Преди четири години изкарах реч в университета в Сейнт Луис в Мисури. Обръщайки се към студентите, които казах, погледнете, трябва да съживите духа на проучването, особено защото Сейнт Луис е портата на запад и днес е по-безопасно да летите до Марс, отколкото за Колумб да прекоси Атлантическия океан. Защото, поне знаем разстоянието и имаме картата. Надявам се, че нашите деца, нашите внуци… ще бъдат по-агресивни в мечтите си, като използваме тази феноменална технология, за да ни тласнат напред, защото мисля, нека признаем, нека признаем този важен факт; нашето поколение се забавя в стремежа си да открием чудесата на света, космоса или океаните.