Генеративният ИИ превръща потребителите в журналисти

Изкуственият интелект (ИИ) все повече ще бъде сред нас. Ще се развива до такава степен, че ние все по-трудно ще разбираме, че тази технология е използвана в определена дейност или за създаване на даден продукт. Затова потребителите трябва да бъдат внимателни и нека са като журналистите – да проверяват  информацията от поне два независими източника. 

Това коментира в „Денят започва“ по БНТ основателят на некомерсиалната платформа "Ние, потребителите" Габриела Руменова във връзка с новината за одобрения от евродепутатите законопроект за регулиране използването на ИИ. 

„Ще има системи, които ще бъдат определени като такива с недопустим риск и ще бъдат забранени. Например, детски играчки с гласови функции, които могат да провокират опасно поведение у децата“, обясни тя. Руменова припомни случаите, в които онлайн игри подтикваха деца към опасни предизвикателства и имаше случаи с фатален край. 

По думите ѝ други системи ще бъдат определени с „висок риск“, като тези за „умните домове“, за управление на превозни средства и др. Преди пускането им на пазара тези системи ще преминават през сериозни тестове и ще бъдат наблюдавани през целия период на експлоатацията им. „Това са все мерки, които целят гарантиране на безопасността“, посочи още експертът. 

„Когато се използва генеративен изкуствен интелект за създаването на видеа и изображения, особено с включването на популярни лица, които се ползват с висока степен на доверие в обществото, за потребителите трябва да е ясно кой го използва, че е използвана такава технология, за да могат те да преценят дали да продължат да взаимодействат.", каза Руменова. Тя даде пример с Франция, където пък вече има специален закон за влиятелните личности, който поставя изискване при използване на ИИ за създаване на лица и силуети да се посочва „виртуални изображения“, а при ползване на програми за обработка на снимките – „ретуширани изображения“. „Това е важно, за да може да може да се създаде по-пълна информираност за потребителите и те да знаят, че не виждат „суровия материал“, а нещо преработено, което може да е изцяло нова реалност“, каза Руменова.

По повод споровете между европейските институции и бизнеса до каква степен трябва да се регулира използването на технологията, Габриела Руменова коментира, че до подобни разногласия винаги се стига при опит на властите да въведат законова регламентация в определена област или дейност, защото институциите желаят да осигурят правила, а бизнесът – технологиите да се развиват. „Всички имаме полза от това, но при гарантирани граждански права и права на потребителите“, каза още тя. 

На въпрос дали не е закъсняло подобно законодателство, Руменова отговори, че нормативните актове обикновено идват, когато вече в обществото се е създала потребност - както е в науката, която следва практиката и нейната цел е да я опише, синтериза и обясни случващото се.