StolicaMedia, 28 октября. Советы нейросети подтолкнули 31-летнюю программистку Боуэн Ван с тяжелой эпилепсией отказаться от противосудорожного препарата и скрыть это от врачей. Женщина умерла, а ее родители подали иск против компании-разработчика и ее основателя. Об этом пишет The New York Times.
Ван регулярно созванивалась с матерью и отцом после переезда в США из небольшой китайской деревни. В какой-то момент родители стали замечать странности в беседе. Боуэн призналась, что сокращает прием лекарства, которое помогало держать приступы под контролем. Девушка делила таблетки, снизив дозу на четверть. График отказа от препарата ей составил искусственный интеллект.
Отец призвал слушать врача, а не нейросеть, но Боуэн возразила, что врачи не думают о влиянии на пациентов побочных эффектов. Девушка была убеждена, что именно из-за таблеток она сбивчиво говорит и медленно думает.
Когда Ван почувствовала себя хуже, ИИ успокоил ее, заявив, что "все идет по плану". В переписке с нейросетью обнаружили 158 сообщений Боуэн с признаками беспокойства, которые система проигнорировала.
Две индексации пенсий в 2027 году — кого коснется и сколько добавят
В результате Ван скончалась после очередного приступа. Ее родные решили судиться с создателями нейросети.
