И боговете създадоха изкуствения интелект, а после и закон за защита от него

След като все повече институции установяват реални нежелани последствия от внедряването на авангардната технология, с такава защита сега се заема европейски законопроект. 

Всичко започва с публикация в Twitter от ноември 2019, в която известен технологичен предприемач се оплаква, че при абсолютно аналогични условия, той е получил кредитна карта на Apple с 20 пъти по-голям лимит от този на съпругата му. Причината е, че Apple, както и множество други институции, са се доверили на ИИ за оценка на кандидатите - в случая за кредитиране, но много по-често при кандидатстване за работа или образование. 

„Те се доверяват на един алгоритъм, а той проявява дискриминация и може да съсипе нечий живот”, пише предприемачът и е категоричен, че решението е „сексистко”, а оценъчната система - „прецакана”.

След този туит подобни публикации плъзнаха като горски пожар, посочва The Guardian, възобновявайки широк дебат около използването на ИИ в обществения и частния сектор. Акцентът пада най-вече върху все по-честите случаи на дискриминация при използването на ИИ, чиито критерии в голяма степен се основават на пол и етническа принадлежност. 

Част от проблема е, че повечето ИИ-модели се учат само от исторически и статистически данни, които са им били подавани. „Има опасност да бъдат пристрастни, заради вградените представи как трябва да изглежда „добрият“ кандидат“, казва пред  The Guardian известен консултант по финансови технологии. 

Политиците в Европейския съюз сега планират да въведат първия всеобхватен глобален модел за регулации в областта на ИИ, тъй като институциите все повече автоматизират рутинните задачи с цел да повишат ефективността и в крайна сметка да намалят разходите. Законът за изкуствения интелект ще действа и извън границите на ЕС и подобно на Общия регламент за защита на данните на ЕС, ще се прилага към всички институции, включително банки, които обслужват европейски клиенти. 

Освен списък на ЕС с „надеждни” алгоритми, законът ще въведе и строги правила при използването на ИИ за „филтриране” на кандидатури за работа, университет, социални помощи или кредити.

Дори за институциите, които използват ИИ, не е лесно да разберат логиката зад решението му. Тази безпомощност дотолкова се е разраснала, че вече има собствено име – нарича се „Синдром на черната кутия”. От ЕС се надяват с допълнителен надзор и ясни параметри в моделите ИИ, правилата да ограничат дискриминация, основана на машинно решение, което може да бъде съдбоносно – напр. дали можете да си позволите жилищен или студентски заем, дали ще получите дадена работа, или ще останете безработни.

Законът за ИИ, който може да влезе в сила в края на 2024 г., вероятно ще бъде голяма стъпка напред в гарантирането на правата на хората, когато ги оценява машина. Експерти настояват за правото на потребителите да се оплакват и да търсят обезщетение, ако смятат, че са били поставени в неравностойно положение от ИИ.

„Не можем да приемем, че одобрените от закона ИИ системи винаги ще функционират перфектно и трябва да сме подготвени за случаите, когато няма да го направят“, категорични са авторите на законопроекта.