Изкуственият интелект е опасен за човечеството?

В изявлението им, публикувано вчера на сайта на Центъра за безопасност на ИИ, се казва: „Намаляването на риска от изчезване на човечеството заради изкуствения интелект (ИИ) трябва да бъде глобален приоритет, наред с други рискове от обществен мащаб като пандемии и ядрена война“.

Десетки учени подкрепиха документа, включително Сам Алтман, главен изпълнителен директор на OpenAI, създателят на ChatGPT, Демис Хасабис, главен изпълнителен директор на Google DeepMind, Дарио Амодей от Anthropic, д-р Джефри Хинтън, който напусна Google, както и Йошуа Бенджио, професор по компютърни науки в университета в Монреал.

Д-р Хинтън, проф. Бенджио и проф. Ян Льокун от Нюйоркския университет често са описвани като „кръстниците на ИИ“ за тяхната новаторска работа, за която заедно спечелиха наградата „Тюринг” за 2018 г., присъдена им за изключителен принос в компютърните науки. 

Напускайки Google по-рано този месец, Джефри Хинтън обаче каза, че съжалява за разработките си. По подобен начин и проф. Бенджио в интервю пред ВВС подчерта, че ако сега започваше, би наблегнал много повече на безопасността на ИИ. Същевременно, той предупреди, че технологията не трябва да се предоставя „на военните”.

Според Ян Льокун (Meta) обаче, апокалиптичните предупреждения са преувеличени. Пред ВВС и Арвинд Нараянан, компютърен учен от Принстънския университет, нарече опасенията „научна фантастика”. Много други експерти също смятат, че страховете от ИИ са нереалистични и извеждането им на преден план отвлича вниманието от други проблеми в сектора. Трябва да се отбележи обаче, че почти всички, които настояват развитието на ИИ да продължи, казват, че технологията не представлява опасност „на този етап”.

Медийният интерес към предполагаемата „екзистенциална заплаха“ от ИИ расте лавинообразно от март 2023 г., когато повече от 1000 експерти, включително Илон Мъск, подписаха отворено писмо, в което питаха трябва ли „да развием нечовешки умове, които биха могли да ни надминат, надхитрят и в крайна сметка, да ни заменят“. Писмото настояваше за поне шест месеца пауза в разработките на следващото поколение технологии за ИИ, докато новото изявление на експертите директно постави ИИ сред глобалните заплахи пред човечеството. 

Дебатът продължава, но мнозина се опасяват, че „духът” вече е вън от бутилката. Страните по света трескаво подготвят регулации за развиващите се технологии, включително ЕС, чийто Закон за ИИ трябва да бъде гласуван по-късно тази година.