Как изкуственият интелект заплашва бизнеса

Експертите на McKinsey са определили основните рискове на технологията и как бизнесът може да се справи с тях:

 Пет основни риска

1. Изтичане на информация и грешки поради неструктурирани данни. Огромно количество информация постъпва от интернет, социални мрежи, от мобилни устройства, която е трудно да се структурира и подготви за качествена работа на системи, базирани на изкуствен интелект (ИИ).

Поради това често възникват грешки и поверителна информация може да се окаже в свободен достъп. Такива проблеми с поверителността на данните могат значително да навредят на репутацията на компанията.

2. Технологични проблеми. Технологичните и операционните проблеми се отразяват негативно върху работата на изкуствения интелект. Например в една голяма финансова институция софтуерът спрял да анализира някои транзакции с клиенти, поради което служителите не съумели да открият и да предотвратят проблема навреме, а компанията понесла големи загуби.

3. Проблеми с безопасността. Компаниите обръщат специално внимание на защитата на поверителната информация, но не само тя трябва да се  защити.

Маркетинговите, финансовите и медицинските данни, използвани за обучение на системите с ИИ, също трябва да бъдат добре защитени, в противен случай те могат да бъдат използвани за измами.

В такава ситуация компаниите ще станат неволни съучастници на незаконни действия, ще загубят доверието на потребителите и ще попаднат под санкциите на регулаторите.

4. Грешки в работата на моделите. Моделите с ИИ могат да работят нестабилно и да дават неправилни резултати, ако нямат достатъчно данни за анализ, с които да могат да работя.

5. Проблеми на взаимодействието. Взаимодействието на хора и машини на базата на ИИ е още една рискова зона. Инциденти и травми на пътя или на работното място са възможни, когато потребителят въобще не знае как да спира механизма или не може да го направи достатъчно бързо - например при шофиране в кола с автоматично управление.

Когато работниците, напротив, се намесват твърде активно в работата на ИИ, това също води до негативни последици. Например, ако отделът за продажби работи по-добре и по-ефективно с клиенти от определена възраст, това ще повлияе на работата на ИИ: системата ще игнорира клиенти от други възрастови групи.

Три метода за управление на риска

1. Определяне на най-критичните рискове. За да се контролира ефективно ИИ, в процеса трябва да се включи целият екип: директори на компании, експерти в областта на правото, сигурността и информационните технологии, анализатори и мениджъри. Поглед върху проблема от различни експерти е единственият начин да се отчетат всички нюанси.

McKinsey: идентифициране на ключови рискове

За да определи главните рискове за своята организация, директорът на европейска банка събрал мениджърите в сферите на бизнеса, сигурността и информационните технологии.

Заедно те оценили основните заплахи за компанията.
Анализирали как ИИ може да ги задълбочи. Някои рискове били очевидни, други - не: например рискът да се препоръча лош продукт на клиент.
След съвместна дискусия за всички заплахи, банковите ръководители успели да уточнят приоритетите, да намерят пропуски в мерките за контрол и да отделят време и ресурси за решаване на проблемите.

Приоритетните рискове могат да варират в зависимост от компанията: производство на нискокачествени продукти - риск за производителите на храни, публикуване на програмен код - за разработчици на софтуер, фалшиви диагнози - за медицински организации.

2. Управление на риска в цялата фирма. За да се намалят рисковете, трябва постоянно да се наблюдава развитието и използването на системите за ИИ. Важно е и обучението на служителите.

Служителите на фирмата трябва да знаят:

в кои области се използва изкуствен интелект,
как организацията защитава данните на клиентите,
как са взаимосвързани системите за управление, автоматизираните технологии и инструментите за развитие.

Ръководителите на отдели и екипите за управление на риска също трябва да се научат да работят със системи, базирани на ИИ, и да намалят до минимум техните рискове:

тези мениджъри ще могат по-добре да разберат и да оценят работата на моделите за изкуствен интелект,
екипът за управление на риска ще се научи как да решава правните проблеми на ИИ.

3. Трябва да се намери индивидуален подход към всеки процес. Често общите мерки не са достатъчни, така че компаниите трябва да обърнат внимание на отделните процеси, базирани на изкуствен интелект.

McKinsey: Приоритети при използването на ИИ

Една финансова компания решила да се откаже от някои модели на ИИ, тъй като те били твърде сложни и недостатъчно прозрачни. Разбира се, това довело до известни икономически загуби, но сега служителите на компанията са напълно уверени в решенията, които ИИ им предлага. По-опростените и по-ясни модели улесняват контролирането на системи, базирани на ИИ.

Този пример доказва, че организациите трябва да комбинират различни подходи за управление на риска и затова е необходимо да се създадат определени стандарти, които да регулират използването на ИИ. Компаниите трябва да прилагат тези стандарти в цялото предприятие чрез общи системи за управление на риска.