„Кръстникът“ на изкуствения интелект съжалява за разработките си

Пионерските изследвания на д-р Хинтън върху дълбокото обучение и невронните мрежи проправиха пътя за настоящите ИИ системи като ChatGPT. Оттегляйки се обаче, британско-канадският когнитивен психолог и компютърен учен смята, че чатботът скоро може да надмине нивото на информация, което човешкият мозък притежава.

„В момента разработки като GPT-4 засенчват човека по отношение на общите познания. От гледна точка на мисловния процес GPT-4 не е толкова добър, но предвид темповете на напредък, очаквам и в тази посока бързо да се подобри. А това трябва да ни тревожи“, смята д-р Хинтън.

В статията на New York Times той споменава и „най-лошия кошмарен сценарий”, при който „лоши герои” биха се опитали да използват ИИ за „лоши неща“: „Представете си например, някой като руския президент Владимир Путин да реши да даде на роботите способността да добавят към заложените цели и свои подцели“.

Друго късно прозрение на д-р Хинтън е също, че изкуственият интелект, който развиваме, е много различен от човешкия интелект, тъй като „Ние сме биологични системи, а ИИ е цифрова система. При цифровите системи имате много копия на един и същ набор от информация, един и същ модел на света. И всички тези копия могат да учат поотделно, но да споделят знанията си мигновено. Все едно имате 10 000 души и щом един от тях научи нещо, всички автоматично го научават. По този начин тези чатботове могат да натрупат много повече знания от всеки един човек“.

Същевременно Джефри Хинтън подчерта, че не иска да критикува Google и че технологичният гигант е бил "много отговорен". В изявление главният учен на Google Джеф Дийн каза: „Ние оставаме ангажирани с отговорен подход към ИИ. Непрекъснато се учим да разбираме възникващите рискове, като същевременно смело въвеждаме иновации“.