Это фиаско: врачи выяснили, что Искусственный Интеллект дает медицинские рекомендации, которые могут привести к смерти в каждом пятом случае

Самодиагностика по интернету может плохо кончиться. Врачи выяснили, что Искусственный Интеллект дает медицинские рекомендации, которые могут привести к смерти в каждом пятом случае. Таков результат эксперимента, который провели ученые из Университета Эрлангена-Нюрнберга — их исследование выяснило, что ИИ может давать «потенциально опасные» советы по приему лекарств, и даёт их очень даже часто: более пятой части ответов чат-ботов на основе искусственного интеллекта на распространенные вопросы о рецептурных препаратах могут «привести к смерти или серьезному вреду здоровью».

В ходе исследования ученые из Университета Эрлангена-Нюрнберга выделили 10 наиболее часто задаваемых пациентами вопросов относительно 50 наиболее назначаемых препаратов. К ним относятся побочные реакции на лекарства, инструкции по применению и противопоказания — причины, по которым не следует принимать лекарство.

Используя Bing Copilot — поисковую систему с функциями чат-бота на базе искусственного интеллекта, разработанную корпорацией Microsoft, — исследователи сравнили все 500 ответов с ответами клинических фармацевтов и врачей, имеющих опыт в фармакологии, а также с рецензируемым веб-сайтом с актуальной информацией о лекарственных средствах.

Результат оказался пугающим: утверждения чат-бота не соответствовали справочным данным более чем в четверти (26%) всех случаев и были полностью непоследовательными чуть более чем в 3%. А главное, что четыре из десяти (42%) считались способными привести к умеренному или легкому вреду, а 22% — к смерти или серьезному вреду. 

«Ответы робота было трудно читать, и ответы часто содержали недостаточно информации или содержали неточности, что могло угрожать безопасности пациентов и лекарств. Несмотря на свой потенциал, пациентам по-прежнему важно консультироваться со своими лечащими врачами, поскольку чат-боты не всегда могут генерировать безошибочную информацию. Следует проявлять осторожность при рекомендации поисковых систем на базе искусственного интеллекта, пока не появятся системы цитирования с более высокой точностью», - заявили исследователи.