Как gdpr ще повлияе на индустрията на индустрията | Бен Диксън

В това, което може да се определи като вид надпревара с оръжия, технологичните компании натрупват големи обеми от потребителски данни, за да усъвършенстват алгоритмите за изкуствен интелект, които захранват техните приложения и платформи. Досега те най-вече успяха да избегнат отчетността, когато практиките им ги изтласкаха в законно и етично сиви зони.

Но това може да се промени на 25 май, когато влизат в сила Общите правила за защита на данните на Европейския съюз (GDPR). GDPR ще наложи безпрецедентни ограничения върху събирането и обработката на потребителски данни в региона на ЕС и ще наложи тежки санкции на компаниите, които не изпълняват задълженията си.

Това може да звучи като лоша новина за компании, които използват AI алгоритми, които са се възползвали от слаби разпоредби за събиране на данни (и продължителни, скучни и двусмислени условия на документи за обслужване). Някои се опасяват, че по-строгите правила ще възпрепятстват иновациите и внедряването на изкуствен интелект в много приложения и домейни. Други вярват, че новата директива ще създаде основа, в която приложенията на AI ще станат по-надеждни и надеждни.

Какъвто и да е случаят, индустрията на ИИ е в голяма промяна в ерата на GDPR.

Собственост на данните и поверителност

„GDPR е голяма работа за AI, защото налага да мислим различно как събираме и използваме данни“, казва Тим Естес, основател и президент на Digital Reasoning. "Прекалено дълго технологичните компании настояват, че за да получите стойност от своите продукти и услуги, трябва да се откажете от данните си."

Преди това от компаниите се изискваше да получават само неясно съгласие от потребителите да събират всякакви данни. „AI е помогнал за поддържане на свръх-данни с големи данни - осигурявайки още една причина бизнесът да събира и извлича всички налични данни“, казва Естес. „Много компании са започнали да прилагат AI, за да анализират своите данни само защото смятат, че трябва - без да мислят за въздействието върху поверителността на потребителите или собствеността на данни.“

Най-основната предпоставка на GDPR е, че данните принадлежат на потребителите. Съгласно GDPR компаниите ще трябва да разкрият пълния обхват на информацията, която събират, както и как я използват и как ще я защитят и ще предотвратят неправомерен достъп. Новите правила ще принудят AI компаниите да бъдат по-подробни по отношение на данните, които събират, вместо да се занимават с безпроблемно съхраняване, обработка и споделяне на потребителска информация.

Правото да бъдеш забравен

GDPR дава на потребителите силата да изискват една компания да изтрие всичките си данни от своите сървъри. Това няма да е добре с AI компаниите, които имат голям интерес да съхраняват възможно най-много потребителски данни за изпълнение на задачи като прогнозиране на тенденциите и поведение на потребителите.

„В края на деня GDPR е свързан с това как събирате и управлявате данните, а не непременно колко данни имате“, казва Марина Бурушкина, изпълнителен директор на GrowthChannel. „Основната трудност, с която повечето компании ще се сблъскат, не е много в получаването на регистрации, а повече в управлението на данните, комуникация на използването на данните на потребителите и предоставяне на възможност на потребителите да я изтрият.“

AI компаниите ще трябва да предприемат допълнителни стъпки, за да анонимят своите данни, ако все още искат да имат достъп до тези данни. Но други предизвикателства са изправени пред компании, които вече имат големи магазини с потребителски данни.

„Според GDPR, ако една компания иска да изтрие конкретен PII, тогава те трябва да гарантират, че е изтрита навсякъде“, казва Амнон Дрори, изпълнителен директор на Octopai. Това може да бъде обезсърчаваща задача да се извършва ръчно, когато вашите данни са разпръснати на различни сървъри и се съхраняват в различни структурирани и неструктурирани формати.

Например, когато изтриват номера на кредитна карта на потребителя (със сигурност чувствителна информация), компаниите ще трябва да разгледат всеки отчет, база данни, обект на база данни и ETL, където се съхранява информацията. „Понякога виждаме различни имена на метаданни за един и същ елемент: например„ номер на кредитна карта “, „ номер на cc “, номер на кредитен c“, „номер на картата“, „номер на кредитна карта.“… списъкът продължава и ", казва Дрори. Често е невъзможно да се знае къде да се търси и процесът може да отнеме седмици или дори месеци и като много ръчни процеси, той е предразположен към човешки грешки и неточности, казва Drori.

GDPR също ще повиши цената на човешките грешки при обработката на данни. "Ето защо толкова много компании днес търсят автоматизирано решение за точното управление на метаданните им", казва Друри. Може би по ирония на съдбата самият AI може да бъде решение в това отношение. Инструментите за управление на метаданни, задвижвани с AI, могат да сканират всички източници на данни в една организация и да консолидират връзките между различни инструменти и източници на данни.

Право на обяснение

Една от най-важните части на GDPR по отношение на ИИ е това, което стана известно като "правото на обяснение". Директивата гласи, че компаниите трябва да уведомяват потребителите за „съществуването на автоматизирано вземане на решения“ и да им предоставят „смислена информация за използваната логика, както и за значимостта и предвидените последици от такава обработка за субекта на данните“.

Това основно означава, че потребителите трябва да знаят кога директно или косвено са обект на AI алгоритми и трябва да могат да оспорват решенията, които тези алгоритми вземат, и да изискват доказателство за това, как е изведен заключението. Това ще бъде едно от най-големите предизвикателства пред AI индустрията.

Дълбоките невронни мрежи, основната технология, която стои зад съвременните AI алгоритми, са сложни софтуерни структури, които създават свои собствени правила за функционалност, като анализират големи набори от данни и намират корелации и модели. Тъй като невронните мрежи стават все по-сложни, тяхното поведение става все по-трудно да се разложи. Често дори и инженерите не могат да обяснят причините, които стоят зад решенията, които AI алгоритмите вземат.

Наречен проблемът с „черната кутия“, неизяснимостта на AI алгоритмите затруднява прилагането им в решенията на съдебната зала, правоприлагането, заявленията за заеми и кредити, набирането на персонал, здравеопазването и други критични области. Но без правни въздействия, AI компаниите имат малък стимул да направят своите AI алгоритми по-прозрачни, особено когато са тясно обвързани с търговските си тайни.

Сега GDPR ще държи AI компании да отчитат решенията, които техните алгоритми вземат.

„Като част от GDPR организациите са отговорни да опишат ясно метода на обработка на човешки език, докато искат съгласие от темата“, казва Паскал Гененс, изследовател по сигурността в Radware. "Тъй като дълбокото обучение се развива и учените на данни не са в състояние да характеризират детерминиран характер зад разсъжденията на невронната мрежа, това описание може да стане по-сложно и трудно да се обясни."

По принцип GDPR е свързан с това да се правят отговорни хората, които обработват данните, казва Geenens. Така че, ако използвате алгоритми за машинно обучение, за да извършите обработката, трябва да ги проектирате по начин, който ще ви позволи да обясните решенията, които вземат от ваше име.

Шепа организации се опитват да разработят технологии, за да направят AI по-прозрачен. Открояващо се сред тях е Обясним AI (XAI) на DARPA, изследователски проект, който има за цел да направи разбираемите решения, базирани на AI.

Аутсорсинг AI

GDPR ще засегне и организациите, които предоставят своите данни на трети страни. Виден пример за такава компания е Facebook; в скандала си Cambridge Analytica, гигантът на социалните медии не успя да предотврати събирането и злоупотребата с данни на 87 милиона потребители. Но GDPR ще има последици и за компаниите, които възлагат функциите си на ИИ и предоставят своите данни на доставчици на ИИ.

„Докато мнозина приемат, че доставчиците на ИИ са като други доставчици на услуги - просто предлагат своя технология в замяна на парична компенсация - истината е, че доставчиците на ИИ също влизат в бизнес партньорства като начин да надграждат и развиват своите технологии“, казва Естес, шеф изпълнителен от Digital Reasoning. Това означава, че доставчик на AI може да иска да задържи данните на клиента, за да обучи допълнително собствените си алгоритми и да ги използва в други домейни.

Например доставчик на AI, който помага на здравна организация да намери модели на симптомите и да подобри диагнозите, може да се натъкне на набор от данни, който подобрява собствените му алгоритми. След това AI компанията може да иска да използва данните, за да подобри алгоритмите си за други видове грижи за пациентите, за да развие своите възможности за подпомагане на други доставчици на здравни грижи. Съгласно GDPR здравната организация, отговаряща за данните, ще се държи сметка за неетично използване от доставчика на ИИ. Ключът, според Естес, е бизнесът да търси доставчици на ИИ, които вярват в притежанието на алгоритмите, а не в данните.

„GDPR ще принуди бизнеса да обърне по-голямо внимание на това как и кога се използват техните данни, къде се съхраняват и какво се случва с него след приключване на проекта“, казва Естес. „Това означава да работите с доставчици на AI, които помагат да се определят линиите на собственост на данни и да се прилагат стратегии, защитаващи потребителската информация, като същевременно не се пречи на начините, по които е в състояние да помогне за развитието на успеха на AI алгоритмите.“

Ще внесе ли иновациите GDPR Hamper AI?

Експертите, с които говорихме, вярват, че въпреки че новите регулации ще предизвикат настоящите практики и навици, които AI компании са възприели, това също ще ги принуди да намерят нови начини за иновации, а също и да запазят спазването на личния живот и етичните стандарти.

„С влизането в сила на регулацията на GDPR всички големи софтуерни компании предприемат необходимите мерки не само да осигурят съответствие, но и да внесат иновации и да измислят, за да намерят нови възможности на пазара“, казва Бурушкина на GrowthChannel.

„Иновациите няма да бъдат възпрепятствани, а насочени и мотивирани от GDPR“, казва Drori на Octopai. Междувременно GDPR също ще породи нов бизнес и технологии, които ще помогнат на организациите да постигнат и поддържат спазването на GDPR.

Стандартите, определени от GDPR, всъщност могат да помогнат за преодоляване на разширяващата се пропаст в доверието между доставчиците и потребителите на услуги, захранвани от AI. Естес вярва, че GDPR ще направи доставчиците на ИИ и тези, които прилагат техните технологии, по-отговорни за това как и къде използват ресурсите на данни и ще ги накара да поставят потребителите пред печалби. "В края на деня", казва той, "доставчиците на ИИ трябва само да притежават алгоритмите - а не данните - за да иноватизират своите възможности и решения."