Комплексът Касандра: защо медиците не се доверяват на изкуствения интелект

За да разберем този проблем, е важно да се върнем към древната гръцка митология. Касандра е дъщеря на Приам, цар на Троя, и е надарена от бог Аполон с дарбата на пророчеството. Обаче, след като тя отхвърля Аполон, той я проклина, като прави пророчествата й безполезни, тъй като никой не вярва в тяхната достоверност. Касандра предсказа падането на Троя, но никой не й повярва, което води до катастрофа.

По аналогия с Касандра, изкуственият интелект в медицината се сблъсква с «комплекса Касандра». Съвременните електронни медицински досиета осигуряват огромно количество данни, които алгоритмите за машинно обучение използват за прогнозиране на заболяванията и за тяхното лечение. Въпреки това, дори ако тези прогнози са точни, те могат да се окажат безполезни, ако медицинските специалисти не им се доверяват или не ги следват.

Доктор Уилсън отбелязва, че мнозина се фокусират единствено върху точността на прогнозата, забравяйкиза значението на това, как тези прогнози могат да променят резултатите в лечението на пациентите. Прогнозите стават безполезни, ако те се игнорират или ако не доведат до промени в клиничната практика.

Изследванията в тази област зависят от големи набори от данни и разработването на по-съвършени алгоритми. Но както ни учи историята на Касандра, дори съвършените прогнози са безполезни, ако те бъдат игнорирани.

Д-р Уилсън предлага решение, което се заключава в това, да се отнасяме към изкуствения интелект в медицината по същия начин, както към ново лекарство. Той призовава за провеждане на рандомизирани изследвания, за да се оцени как прогнозите на модела могат да променят лечението и следователно да спасят живота на пациентите.

Пример за такъв подход е проучвавето на Шанън Уокър от Вандербилт, в което експертите изследват как автоматизиран прогностичен модел в електронните медицински досиета може да помогне за предотвратяване на вътреболнични венозни тромбоемболии сред деца и юноши. 

Тяхното проучване установява, че въпреки точността на модела, първичните клинични екипи не винаги следват препоръките, подчертавайки важността на доверието и промяната в поведението.

И така, изкуственият интелект в медицината предоставя прогнози за заболяванията и тяхното лечение, но за да променим резултатите, ние трябва да повярваме на тези прогнози и да действаме в съответствие с тях. 

Това е ключово предизвикателство за съвременната медицина и докато то не бъде преодоляно, точните прогнози ще си останат безполезни, също като пророчествата на Касандра, игнорирани и недооценени.