Yan lecun обсъжда силата, границите на задълбоченото учене

На семинар за AI и бъдещето на работата по-рано този месец Ян Лекун, директор на AI Research във Facebook и основател на Центъра за наука на данните в NYU, говори за „силата и границите на задълбоченото обучение“. LeCun, който бе в основата на конволюционните невронни мрежи, които са в основата на много от последните постижения в AI, беше едновременно ентусиазиран от напредъка, постигнат в областта през последните години, и реалистичен за това, което могат да направят подобни системи и какво не могат.

Има много вълни на AI, каза LeCun и отбеляза, че докато настоящата вълна се е фокусирала върху задълбоченото учене, това, което предстои, е "възприятие", като най-големите примери са приложения като медицински изображения и автомобили със самостоятелно управление. Почти всички тези приложения използват контролирано обучение и повечето използват конволюционни невронни мрежи, които LeCun описа за първи път през 1989 г. и които за първи път бяха внедрени при разпознаване на символи в банкомати през 1995 г. LeCun заяви, че патентът на такива мрежи е изтекъл през 2007 г.

Големите набори от данни с големи размери на извадката, както и огромното увеличение на изчислителната мощност (подпомогнато от работата на Джефри Хинтън в намирането как да се използват графичните процесори за разпознаване на изображения) доведоха до най-голяма промяна през последните години. Дори за LeCun, напредъкът в разпознаването на изображения е бил "нищо по-малко от удивително". Въпреки че възприятието „наистина работи“, това, което все още липсва, е разсъждението.

LeCun говори за три различни подхода и ограниченията на всеки от тях. Ученето за подсилване изисква огромен брой проби. Той е чудесен за игри, тъй като системата може да провежда милиони изпитания и да става все по-добра, но е трудно да се използва в реалния свят, тъй като не искате да карате кола от скала 50 милиона пъти, например, и реалното време е фактор в реалния свят.

Контролираното обучение, което е повечето от това, което виждаме сега, изисква средно количество обратна връзка и работи добре. Въпреки това, контролираното машинно обучение има някои проблеми. LeCun заяви, че подобни системи отразяват пристрастия в данните, въпреки че той е оптимистичен, че този проблем може да бъде преодолян и вярва, че е по-лесно да се отстранят отклоненията от машините в сравнение с хората. Но също така е трудно да се проверят такива системи за надеждност и е трудно да се обяснят решенията, взети въз основа на изходи от такива системи, и LeCun говори за заявления за заем като пример за това.

Ненадзорното или предсказуемото обучение, което в момента се изследва за неща като прогнозиране на бъдещи кадри във видеоклип, изисква много обратна връзка. Неуправляемото обучение включва прогнозиране на миналото, настоящето или бъдещето от каквато и да е информация, или с други думи, способността да се попълват празните места, което LeCun каза, че е ефективно това, което наричаме здрав разум. Той отбеляза, че бебетата могат да направят това, но че получаването на машини за това е много трудно и говори за това как изследователите работят върху техники като генеративни състезателни мрежи (GANs) за прогнози, направени в несигурни условия. Далеч сме от цялостно решение, каза той.

LeCun говори за трите вида учене като като части от тортата: укрепването на обучението е черешата отгоре, контролираното изучаване на черешката, а прогнозното обучение е основната част на тортата.

LeCun прогнозира, че AI ще промени начина, по който нещата се оценяват, като стоките, изградени от роботи, струват по-малко, а автентичните човешки преживявания струват повече, и каза, че това може да означава, че има „светло бъдеще за джаз музикантите и занаятчиите“.

Като цяло, LeCun заяви, че AI е технология с общо предназначение (GPT) като парната машина, електричеството или компютъра. Като такъв, той ще засегне много области на икономиката, но ще отнеме 10 или 20 години, преди да видим ефект върху производителността. LeCun заяви, че AI ще доведе до смяна на работните места, но отбеляза, че внедряването на технологиите е ограничено от това колко бързо работниците могат да се обучават за това.

Що се отнася до "истинската AI революция", LeCun каза, че това няма да се случи, докато машините придобият здрав разум и определянето на принципите за изграждането им може да отнеме две, пет, двадесет или повече години; освен това, след това ще са необходими години за разработването на практическа AI технология, основана на тези принципи. В края на краищата, отбеляза той, минаха двадесет години, за да станат важни световните мрежи. И всичко това се основава на предположението, че принципите са прости; става много по-сложно, ако „интелигентността е заблуда“.