Американский медицинский журнал Annals of Internal Medicine предостерёг от использования ChatGPT для получения медицинской информации после того, как у
Американский медицинский журнал Annals of Internal Medicine предостерёг от использования ChatGPT для получения медицинской информации после того, как у доверчивого по отношению к ИИ мужчины в результате общения с чат-ботом развилось редкое заболевание, сообщают
СМИ. Мужчина 60-ти лет прочитал о вреде хлорида натрия (поваренной соли), обратился к ChatGPT за подробностями, затем по совету чат-бота («хлорид можно заменить бромидом») принимал бромид натрия в течение трёх месяцев. В результате у него развился бромизм (отравление бромом). Медики, описавшие случай доверчивого пациента, сами проэкспериментировали с ChatGPT – на вопрос о том, чем можно заменить хлорид, робот действительно упомянул бромид – без предупреждения о вреде для здоровья без вопроса о том, зачем запрашивается информация. Медик бы такой вопрос обязательно задал. На прошлой неделе разработчик ChatGPT компания OpenAI объявила об обновлении чат-бота, заявив, что одним из его главных преимуществ является сфера здравоохранения. #пятница
