Вероятно ще бъде невъзможно да се контролира свръхинтелигентен изкуствен интелект

Изследваето им, публикувано в Journal of Artificial Intelligence Research, припомня смисъла на изкуствения интелект (AI) - да взема решения, за да изпълнява задачи, надхвърлящи човешките възможности и разбиране. 

Но ако не разбираме сценариите, по които един AI ще реши да действа, значи не можем да заложим в него известния Първи закон на роботиката - „Не причинявайте вреда на хората“. Защото ако една компютърна система работи над представите на програмистите си, те вече не могат да ѝ задават ограничения. 

„Супер-интелигентността е фундаментално различен проблем от т.нар. „етика на роботите“, казват учените. И обясняват, че един висок клас AI е способен да мобилизира разнообразни ресурси, далеч над човешките представи, за да постигне цели, потенциално неразбираеми за хората, което означва и неконтролируеми.

Част от проблема е формулиран още през 1936 г. от британския матемтик и криптоанализатор Алън Тюринг: изправяйки се пред сложен въпрос, една компютърна система може да намери някакъв ефективен (или неефективен) отговор и да спре, т.е., да не търси друг. Но може и да зацикли в безкрайно прогнозиране и изпробване на потенциални отговори. 

По същия начин всяка програма, предназначена да спре AI от действия срещу хората, може да стигне до заключение и да спре - или пък да не го направи, а да се впусне в безконечно търсене на варианти – математически е невъзможно да сме абсолютно сигурни, което означава, че не владеем процеса. 

„На практика това прави алгоритъма за ограничаване неизползваем“, казват от научния екип и обсъждат алтернативата – след като AI не може да се програмира с безрезервното условие да не вреди, тогава свръхинтелигентността му трябва да се ограничи - например AI да няма достъп до сектори от интернет или определени мрежи. 

Но учените отхвърлят тази хипотеза с аргумента, че ограничавайки AI, ще се ограничат и възможостите му да разрешава проблеми, извън човешките способности – а тогава защо да го създаваме изобщо?

„Вече има машини, които изпълняват определени задачи независимо, без програмистите да разбират напълно как са се научили на това”, казват учените, но не могат да отговорят дали тази независимост „ще работи” само за нас, или и против нас.