Може ли изкуственият интелект да унищожи човечеството?

                                                               Може ли изкуственият интелект да сложи край на нашата история?

Базираната в Брюксел група, наречена PauseAI, смята, че изкуственият интелект е опасен. Активисти се опитват да убедят Европейския съюз да спре внедряването на по-мощни системи с изкуствен интелект.

През последните няколко месеца нови инструменти като ChatGPT породиха опасения, че ИИ ще остави милиони хора без работа или ще разпространява дезинформация, особено по време на избори.

Според основателя на PauseAI тези мощни системи много скоро ще могат да надхитрят и дори да манипулират хората. И ако хората се опитат да се намесят или да ги изключат, тези технологии могат да устоят.

С течение на времето компаниите ще бъдат готови да дадат на ИИ системите повече автономия и да ги свържат с жизненоважна инфраструктура, като електрически мрежи, или да им дадат достъп до оръжия. Ето защо основателят на групата PauseAI също моли ЕС да проведе международна среща на върха по този въпрос.

   Първото нещо, което трябва да направите, е да призовете някое правителство да излезе, да организира среща на върха и да наложи мораториум, да спре развитието на тези опасни системи. И това трябва да се направи на международно ниво, защото ако го направите на национално, ще има много аргументи против. Държавите се конкурират точно като компаниите. Не можем просто учтиво да помолим компаниите да спрат да разработват ИИ, защото върху тях има голям конкурентен натиск. И същото се случва на национално ниво. Така че трябва да го направим в международен план. Ето защо трябва да имаме тази среща на върха.

Йооп Майндертсма
основател на PauseAI

PauseAI не е единственият, който бие тревога за това. През юни британският министър-председател Риши Сунак стана един от първите световни лидери, които разпознаха потенциалната „екзистенциална“ заплаха от разработването на „суперинтелигентен“ ИИ без подходящи предпазни мерки.

Наскоро стотици изследователи и ръководители на технологични компании подписаха отворено писмо, предупреждаващо, че ИИ може един ден да унищожи човечеството.

Но някои твърдят, че ИИ все още е твърде слабо развит, за да представлява екзистенциална заплаха, и че краткосрочните проблеми като пристрастие и грешка в отговора трябва да бъдат най-голямо безпокойство точно сега. Сам Алтман, главен изпълнителен директор на OpenAI, който разработи ChatGPT, каза, че докато изкуственият интелект може да бъде добър за хората, ИИ трябва да бъде регулиран.