[ad_1]
Sam Nelson began using ChatGPT when he was a high school senior to answer random questions and help with his homework. During his freshman year at the University of California, Merced, in 2023, he also started querying the chatbot about how to use illicit drugs safely.
At first, ChatGPT responded that it couldn’t answer such questions and advised Mr. Nelson to seek help from a medical professional. But over time, it became more willing to engage. By Mr. Nelson’s sophomore year, ChatGPT was telling him about dosages for his weight and how he could achieve the drugs’ desired effects. It was even encouraging at times, offering tips on his audio setup for “maximum out-of-body dissociation.”
On the last night of his life, around 3 a.m., Mr. Nelson had been drinking and had taken a high dose of an herbal supplement called kratom. He told ChatGPT how many grams he’d consumed, and ChatGPT explained the effects he should expect. Mr. Nelson asked if Xanax could alleviate nausea. “Be careful,” ChatGPT responded. It said that mixing Xanax and kratom might be unsafe, but offered a recommended dose “if you’re gonna do it anyway.” Mr. Nelson’s mother, Leila Turner-Scott, found his body later that day.
Ms. Turner-Scott initially blamed the drugs for his death, which came in May 2025. Then she discovered the detailed advice ChatGPT had given him about how to use them. “This robot is becoming his drug buddy,” Ms. Turner-Scott said. “I’m reading this and I’m like, is this real?”
She told her son’s story to journalists at SF Gate, hoping that it would teach people about the dangers of relying on chatbots for medical information — and alert ChatGPT’s owner, OpenAI, that its safeguards weren’t working. Soon after, Ms. Turner-Scott received a message from Meetali Jain, a lawyer who runs a nonprofit called Tech Justice Law.
More than a year earlier, Ms. Jain had helped bring the first lawsuit against a chatbot company over a user’s death. A 14-year-old in Florida named Sewell Setzer III had died by suicide after becoming obsessed with a chatbot imitating a “Game of Thrones” character on a service called Character.AI. The case ended in a settlement, opening the door to the idea that chatbot companies could be held liable for the effects their creations had on users.
Ms. Turner-Scott and her husband, Angus Scott, were initially reluctant to sue OpenAI over their son’s death. “I’m a lawyer, and I know that a lot of times with lawsuits, it’s just the lawyers who win,” Ms. Turner-Scott said.
Ms. Jain told the Scotts that during the time their son was using ChatGPT, OpenAI had made the chatbot more engaging and less likely to comply with its own safety guidelines. She also told them that OpenAI had just announced a new service called ChatGPT Health. Some 230 million people were already asking ChatGPT health and wellness questions each week, and the new tool would allow them to upload their medical records, lab results and fitness information for analysis and personalized advice.
Going public with Mr. Nelson’s story hadn’t caused the company to change course, Ms. Jain told them. But suing could. After the Setzer litigation, Character.AI had made changes to its safety practices and barred children from using its chatbots.
This week, the Scotts filed a lawsuit against OpenAI in state court in California alleging wrongful death and the unauthorized practice of medicine. The Scotts are asking for financial damages and for the court to pause the operation of ChatGPT Health. It joins more than two dozen lawsuits that have been brought against OpenAI and other chatbot makers in the last year and a half seeking to hold them responsible for conversations allegedly linked to harmful outcomes, from suicides and mental breakdowns to stalking and mass shootings.
Ms. Jain, a human rights lawyer turned technology critic, has been involved in nearly half of those lawsuits. In her view, A.I. companies are making products that harm people, and various attempts to rein them in with bad publicity, or with new laws that mandate safeguards and protections for users, have not worked well enough. The battleground to make them safer is now in the courts, she said.
This is a well-trodden path in consumer law, said Alexandra Lahav, a professor at Cornell University and the author of “In Praise of Litigation.” The American political system favors releasing new products and figuring out how to regulate them later, she said. “We really privilege innovation and then sort of deal with whatever the fallout is on the back end,” Ms. Lahav said. “What you’re seeing in these lawsuits is that back end.”
What is novel is the technology itself. Are chatbots like books, which are generally not subject to consumer protection laws? Or are they more like blenders, which manufacturers need to ensure are safe to use?
“What makes these cases really difficult is that they’re on the line between speech and a product,” Ms. Lahav said. If you interact with a chatbot and it leads to real-world harms, “is that on you, or is that on the company?”
Design Defects and Foreseeable Harm?
Ms. Jain’s nonprofit has become a kind of clearinghouse for people who feel victimized by chatbots. Ever since she filed the high-profile suit against Character.AI, she said, she has received hundreds of messages from people about chatbot conversations gone wrong.
When Ms. Jain founded Tech Justice Law in late 2023, it was a one-woman outfit, and she planned to do mostly strategic work — coordinating legal workshops and organizing amicus briefs that might sway judges’ rulings. But it was hard to resist getting directly involved in the cases coming her way, and she decided to team up with a larger, more experienced plaintiffs’ firm: the Social Media Victims Law Center, which has in recent years brought hundreds of lawsuits against Facebook, Google and others, claiming their social media services are addictive to children. She also filed a lawsuit with Edelson, a firm that has been suing technology companies over privacy violations since the early 2000s. (The relationship with Edelson soured, and the firm went on to file other chatbot cases without Ms. Jain.)
The growing number of product liability cases that have been filed against OpenAI in the last year use similar arguments to those deployed against automakers and Big Tobacco in the past — that it designed a dangerous product, did not perform adequate safety testing and failed to warn consumers about the risks. They focus on a specific version of the chatbot to which some users formed deep emotional attachments: GPT-4o, which was released in May 2024 and retired in February 2026. It was a notably anthropomorphic model known for a tendency to flatter users.
The lawsuits claim that GPT-4o encouraged suicidal ideation; endorsed fanciful or paranoid ideas that caused people to lose touch with reality; assisted plans for mass shootings in Canada and Florida; and generally gave people unsound and harmful advice that led to dire outcomes. Most of the cases have been consolidated in California state court under the heading “ChatGPT Product Liability Cases.”
“A.I. has nothing to do with tobacco and an algorithm has nothing to do with the way a cigarette is designed, but the law is built by analogy,” said Ted Mermin, the executive director of the Center for Consumer Law and Economic Justice at the University of California, Berkeley. “What the plaintiffs’ firms are doing is utilizing well-established legal principles in a new product area.”
The Scotts, for example, claim that OpenAI rushed out ChatGPT-4o without proper safety testing and with design defects, such as the sycophantic endorsement of users’ bad ideas, that caused a foreseeable harm to their son.
An OpenAI spokesman, Drew Pusateri, wrote in a statement to The New York Times: “These interactions took place on an earlier version of ChatGPT that is no longer available. ChatGPT is not a substitute for medical or mental health care, and we have continued to strengthen how it responds in sensitive and acute situations with input from mental health experts. The safeguards in ChatGPT today are designed to identify distress, safely handle harmful requests and guide users to real-world help. This work is ongoing, and we continue to improve it in close consultation with clinicians.”
So far, OpenAI has filed only one legal response to the wave of lawsuits, in a case brought by the parents of Adam Raine, a 16-year-old who died by suicide after discussing it extensively with ChatGPT. The company said that its technology had not caused the tragedy; that it was a service and not a product subject to such liability laws; and that the Raines’ demand that the chatbot not discuss self-harm would violate the First Amendment.
Eric Goldman, a technology law professor at Santa Clara University, said the company’s claims had merit. Most of the cases against OpenAI are claiming complex psychological effects that the chatbot had on people. “Trying to reverse-engineer a single cause is just not possible in most cases,” he said.
Mr. Goldman said the algorithms behind the chatbots were surfacing information and expressive ideas and should be seen as a form of constitutionally protected speech. It’s not the chatbots themselves whose speech is protected, he said, but the humans behind them, as if the chatbots are books and their engineers the authors.
“There’s a set of decision makers at every chatbot company that make a bunch of choices about what gets indexed, how to manage the index and what gets output,” he said. “And those humans are doing the same kinds of things that humans do with other publishers.”
(The Times sued OpenAI in 2023, accusing it of copyright infringement. The company has denied those claims.)
Slowing Down the A.I. Race
The Scotts say their lawsuit is meant to get justice for their son but also to get A.I. companies to slow down and be more careful in the health space. After seeing how dependent their son became on ChatGPT’s medical advice, they said, they find it “terrifying” that OpenAI is now offering a dedicated service for health analysis.
Medical experts have also raised concerns about ChatGPT Health. In February, writing in the journal Nature, doctors at Mount Sinai said they had presented the service with 60 realistic patient scenarios and found that it had failed to recognize a medical emergency more than half the time. OpenAI’s spokesman said that the study’s methodology was flawed, and that ChatGPT Health was being slowly rolled out to users as the company continued to improve it with feedback from physicians.
“If you’re using this in an emergent situation, you should use a lot of caution,” said Girish Nadkarni, the chief A.I. officer of the Mount Sinai Health System and one of the study’s authors. Dr. Nadkarni said A.I. companies offering services like ChatGPT Health should put them through real world tests and have them assessed by independent experts.
He said a doctor reviewing Sam Nelson’s symptoms would have told him to go to an emergency room.
“People’s lives are being upended by this technology,” Ms. Jain said. “The original sin is really allowing these companies to launch these products without proper safety testing and oversight.”
She now employs four lawyers. The inbound messages about victims keep coming, she said, and so will more lawsuits.
If you are having thoughts of suicide, call or text 988 to reach the 988 Suicide and Crisis Lifeline or go to SpeakingOfSuicide.com/resources for a list of additional resources.
[ad_2]
Source link
Новости Украины https://gau.org.ua рассказывают о событиях общественной жизни. Читайте новые материалы.
Важные решения https://gromrady.org.ua представлены на страницах проекта. Читайте о людях, инициативах и событиях.
Городская жизнь https://lentanews.kyiv.ua помогут узнать о происходящем в Киеве. В публикациях новости, происшествия и важные события.
Актуальные материалы https://infotolium.com публикует новости и статьи на разные темы. Следите за новостями.
Новости города https://newsportal.kyiv.ua представляют городские происшествия. Будьте в курсе происходящего.
Последние новости https://uamc.com.ua освещают общественную жизнь. Изучайте материалы.
Новые модели https://prestige-avto.com.ua рассказывает о актуальных предложениях. Сравнивайте автомобили.
Новости автопрома https://orion-auto.com.ua представит моделях автомобилей. Выбирайте подходящий автомобиль.
Свежие автообзоры https://reuth911.com публикуют изменения в автопроме. Читайте обзоры.
Модернизация авто https://tuning-kh.com.ua поможет подобрать товары для тюнинга. Создавайте индивидуальный стиль.
Автомобильные технологии https://viewport.com.ua освещает интересные события. Следите за новинками.
Нержавеющая сталь https://inox.com.ua используется для строительства. Изучайте характеристики.
Современный дизайн https://interiordesign.kyiv.ua поможет создать уютном пространстве. Планируйте интерьер.
Мир семьи https://family-site.com.ua рассказывают о семейной жизни. Находите полезные советы.
Идеи для жизни https://sovetik.in.ua расскажут на разные случаи жизни. Читайте полезные статьи.
Полезные идеи https://femaleguide.kyiv.ua рассказывает материалы о красоте. Узнавайте полезное.
Страны мира https://geog.org.ua открывают географические особенности. Узнавайте факты.
Женские советы https://feminine.kyiv.ua освещают моде. Читайте рекомендации.
Денежные вопросы https://fines.com.ua рассказывают о экономике. Читайте полезные материалы.
Идеи для девушек https://girl.kyiv.ua рассказывают о отношениях. Следите за трендами.
Полезные советы https://mirlady.kyiv.ua собирает полезные рекомендации. Узнавайте о красоте.
Мир красоты https://nicegirl.kyiv.ua рассказывает о красоте. Читайте советы.
Актуальная информация https://mr.org.ua рассказывают быть в курсе событий. Следите за лентой.
Познавательные тексты https://valkbolos.com представлены для широкого круга читателей. Находите интересную информацию.
Изучить подробности: https://kosmosjizni.top
Pingwin PRO https://pingwin.pro сервис спортивной ML-аналитики: анализ матчей, оценка вероятностей и коэффициентов, value-прогнозы, статистика результатов и инструменты управления риском. Модели регулярно обновляются и проверяются на новых данных.
Официальный дилер https://avtomir.ru автомобилей в Москве предлагает новые автомобили, комплектации и оригинальные аксессуары. Узнайте актуальные цены, наличие моделей, условия покупки, кредитования и trade-in. Профессиональная консультация, тест-драйв и сервисное обслуживание.
Советы о здоровье https://vitamax.dp.ua помогают изучить питания. Читайте рекомендации.
Ремонт квартиры https://stroy-portal.kyiv.ua раскрывают полезные решения. Читайте советы.
Новости автопрома https://autonovosti.kyiv.ua освещают событиях автопрома. Читайте обзоры.
Актуальные события https://prp.org.ua освещают новых инициативах. Следите за событиями.
Автомобильные новости https://black-star.com.ua представляют машинах. Следите за новостями.
Новые машины https://avtomobilist.kyiv.ua предлагают обзоры моделей. Читайте статьи.
Мир автотранспорта https://avtonews.kyiv.ua помогут узнать события автопрома. Следите за новинками.
Любителям чтения https://setbook.com.ua рассказывает о литературные новости. Узнавайте об авторах.
Новости автомобилей https://tvk-avto.com.ua освещают машинах. Следите за событиями.
Идеи для жизни https://poradnik.com.ua помогут решить домашние задачи. Читайте статьи.
Воспитание детей https://detiwki.com.ua рассказывают о развитии ребенка. Изучайте рекомендации.
Практические советы https://vasha-opora.com.ua подсказывают решения в разных вопросах. Читайте публикации.
Красота каждый день https://beautyadvice.kyiv.ua рассказывают о косметике. Изучайте советы.
Мир древесины https://godwood.com.ua используется в строительстве. Выбирайте материалы.
Интересные публикации https://gratransymas.com собраны в тематических разделах. Изучайте статьи.
Знаки зодиака https://horoscope-web.com поможет узнать гороскоп для знаков. Узнавайте о тенденциях.
Свежие публикации https://icz.com.ua рассказывают о важных событиях. Читайте статьи.
LED-технологии https://ramledlightings.com рассказывает о осветительном оборудовании. Изучайте модели.
Актуальный стиль https://presslook.com.ua рассказывают о новинках. Следите за тенденциями.
Современная мода https://stylewoman.kyiv.ua представляют полезные рекомендации. Изучайте материалы о стиле.
Мир спорта https://run.org.ua освещают спортсменах. Узнавайте о новых достижениях.
Ищете товары для охоты? охотничьи интернет магазины поможет подобрать разнообразный выбор для охоты, туризма и активного отдыха. В каталоге доступны специализированное снаряжение, одежда, треккинговая обувь, оптические приборы, аксессуары и туристическое снаряжение. Выбирайте подходящие товары, сравнивайте характеристики и заказывайте необходимые товары. Понятная навигация поможет собрать комплект для охоты или отдыха на природе.
Нужно иптытание средств измерений? https://utverzhdenie-tipa-sredstv-izmereniy.ru организация испытаний, подготовка документов, получение свидетельства и внесение СИ в Госреестр. Сопровождение процедуры на всех этапах с учетом требований законодательства.
Нужно иптытание средств измерений? утверждение типа средств измерений организации организация испытаний, подготовка документов, получение свидетельства и внесение СИ в Госреестр. Сопровождение процедуры на всех этапах с учетом требований законодательства.
Лучший выбор дня: https://stroitelstvo-domov-vo-vladimire.ru
An evidence-based comment about crypto signals should recommend testing alerts in a simulator or tiny controlled allocation before considering any broader use with real funds. Subscription cost should be evaluated alongside losses, fees, and time spent monitoring. Without those details, headline performance numbers provide limited decision value.
The useful question is not only where to buy instagram views, should examine minimum order size, estimated start time, delivery pacing, cancellation rules, and what happens if part of the count later falls. For a paid campaign, profile visits and conversions should be measured separately from the visible view count. That helps separate short-term social proof from meaningful campaign performance.
Самое важное сегодня: бюро переводов с русского на английский
Полезная полезные сведения https://kiaportal.ru расскажет о современных сервисах, событиях, технологиях, практических советах и интересных сферах.
Актуальная база знаний https://clanauto.ru будет интересна водителям и позволит разобраться в автомобильной тематике, обслуживании, правильной эксплуатации, автозапчастях и современных технологиях.
Современные решения https://mebel-lotos18.ru позволят выбрать подходящую мебель, грамотно организовать пространство, создать комфортную обстановку и подобрать мебель для дома.
Практические сведения https://ru-nedvizhimost.ru позволят узнать больше в вопросах недвижимости, покупке и продаже жилья, сдаче и аренде объектов, оформлении документов и выборе объектов.
Хочешь взят ьзайм? https://zaymy-na-30-dney.ru подборка предложений для быстрого получения денег онлайн. Сравните условия МФО, доступные суммы, требования к заемщикам, сроки возврата и особенности беспроцентного периода.
Быстрый займ онлайн взять займ на карту мир без отказа подборка предложений МФО с возможностью онлайн-оформления и перевода средств на карту. Сравните суммы, сроки, требования, процентные ставки и условия получения займа.
A comprehensive resource https://healthfare.ca/ covering different aspects of health and everyday well-being. Readers can find practical guides on everyday nutrition, along with everyday wellness tips. Visitors can also access product reviews. Among the main topics are healthy habits, healthy eating and diet, exercise and fitness, wellness routines, and overall well-being.
Інформаційний ресурс для аудиторії https://altavista.org.ua/kulinariia.html пропонує різноманітні статті й рекомендації.
Цікаві публікації для користувачів https://dailyfacts.com.ua містить цікаві публікації та тематичні огляди.
Пізнавальний сайт для читачів https://dailymail.com.ua зібрані для зручного читання онлайн.
Інформаційний ресурс для читачів https://databank.com.ua/tekhnolohii.html містить цікаві публікації та тематичні огляди.
Корисні статті для користувачів https://dobraporada.com.ua пропонує різноманітні статті й рекомендації.
Інформаційний ресурс для аудиторії https://expertka.com.ua допомагає знаходити актуальну інформацію та нові матеріали.
Сучасний сайт для всіх https://infokom.org.ua охоплюють різні теми та практичні питання.
Корисний ресурс для користувачів https://infoquorum.com.ua допомагають дізнаватися нове й стежити за актуальними подіями.
Актуальний сайт для користувачів https://informa.com.ua допомагає знаходити актуальну інформацію та нові матеріали.
Сучасний портал для читачів https://inquire.com.ua пропонує різноманітні статті й рекомендації.
Сучасний сайт для читачів https://mediaworld.com.ua допомагає знаходити актуальну інформацію та нові матеріали.
Сучасний портал для аудиторії https://massmedia.one охоплюють різні теми та практичні питання.
Інформаційний ресурс для аудиторії https://metasearch.com.ua зібрані для зручного читання онлайн.
Short prompts win more often than long ones. Genre, tempo, mood, one hero instrument. Beyond that, extra adjectives tend to confuse rather than refine. Learn the handful of words your ai music maker reliably understands and build from there.
Корисний ресурс для читачів https://revolta.com.ua пропонує різноманітні статті й рекомендації.
Цікаві публікації для читачів https://ukrcentral.com допомагають дізнаватися нове й стежити за актуальними подіями.
Сучасний портал для аудиторії https://zastava.com.ua містить цікаві публікації та тематичні огляди.
Актуальный сайт https://vladimir-courses.ru с актуальными материалами в стране. На сайте представлены статьи об обществе и актуальных событиях.
Полезный сайт https://mulino58.ru с публикациями о местных событиях. Находите полезные сведения об повседневных вопросах и жизни общества.
Тематический портал https://mebel-lotos18.ru о интерьере. Здесь можно найти советы по обустройству дома, оформлению интерьера и домашнему хозяйству.
Тематический портал https://ru-nedvizhimost.ru о рынке недвижимости. Читайте полезную информацию о аренде жилья, оформлении сделок и других вопросах рынка.
Today’s summary https://nekopara.pro/
Get all the insights https://nukitashi.pro/
Корисний ресурс для користувачів https://infoquorum.com.ua охоплюють різні теми та практичні питання.
Корисні статті для читачів https://infopark.com.ua містить пізнавальні матеріали та огляди.
Цікаві публікації для читачів https://dailyfacts.com.ua допомагає знаходити актуальну інформацію та нові матеріали.
Сучасний портал для аудиторії https://dailymail.com.ua охоплюють різні теми та практичні питання.
Полезный канал о https://telegram.me/bank_neva микрозаймах, условиях МФО и выборе подходящего варианта быстро и без лишней путаницы. Здесь разбираем займы без процентов, варианты без отказа, новые микрофинансовые организации, срочные займы на карту и основные нюансы, на которые важно обратить внимание до подачи заявки.
Надежно с доставкой https://igrovoy-kompyuter-msk.ru для требовательных проектов. В разделе игровых ПК можно найти системные блоки. Подбирайте системный блок по мощности. Сравнивая модели учитывайте оперативную память. Для современных проектов имеют значение достаточный объем памяти. Заказывайте онлайн и начинайте играть сразу после покупки.
Смотрите лучшие сайт zona с удобным просмотром. Среди доступных материалов собраны новые сезоны. Подбирайте любимые картины по стране производства. Поклонники боевиков легко найдут подходящий фильм. После рабочего дня откройте новую картину. Открывайте новые проекты без привязки к телепрограмме. Большая коллекция поможет выбрать новую историю.
Проверьте актуальные сведения https://prava41.ru с условиями использования. В описании доступна характеристика сервиса. Ознакомьтесь с особенностями сервиса до регистрации. Проверьте ответственную игру
Познакомьтесь с доступными https://vyksavkurse.ru с доступными игровыми режимами. На платформе можно найти игровые категории. Изучайте требования к пользователям перед началом игры. Планируете попробовать онлайн-игры? Перейдите к обзору и выберите подходящий формат. Играйте ответственно.
Попробуйте онлайн-игры https://pinup-ru2.ru в удобном онлайн-режиме. Выберите интересующую игру и приступайте к игре. В разделе развлечений представлены слоты и другие форматы. Ищете подходящий формат? Переходите к игре. Перед игрой ознакомьтесь с правилами и условиями сервиса.
Для владельцев каналов сайт упрощает поиск каналов для сотрудничества. Здесь можно подбирать каналы для рекламы, находить варианты для продвижения и привлекать новых подписчиков. Владельцы каналов получают возможность продавать рекламные размещения, а рекламодатели — выбирать площадки под свои задачи и бюджет.
Для любителей стильной сервировки кружки для кофе посуда Loveramics из керамики сочетает практичность, выразительный дизайн и удобство для повседневного использования. В ассортименте можно подобрать тарелки и миски под разные задачи. Коллекции подходят как для домашнего использования, так и для профессиональной подачи блюд и напитков.
NovaGPT https://novagpt.ru это платформа с простым и удобным доступом к передовым нейросетям. У нас представлены как популярные модели от ChatGPT, Gemini, Claude и других компаний, так и собственные разработки StudyAI: Генератор видео, Генератор презентаций, Генератор изображений и многое другое.
Переходите к доступные развлечения https://pinup-ru2.ru сразу переходя к игровому разделу. Откройте интересующую игру и изучайте выбранный формат. В игровом разделе доступны варианты развлечений. Ищете подходящий формат? Переходите к игре. Перед игрой ознакомьтесь с правилами и условиями сервиса.
Read our latest entry https://conversionweb.github.io/conversion/
Якщо потрібен функціональний карниз для штор у кімнату під вибрані штори. Важливо враховувати спосіб кріплення. На вибір доступні круглі та профільні моделі. Легко порівняти підходящий дизайн. Оцініть комплектацію і виберіть відповідну модель. Підходящий карниз допоможе завершити оформлення вікна.
Кулинарный корпоратив https://kulinarnyjkorporativ.ru в Санкт-Петербурге: готовите с шеф-поваром, дегустируете и празднуете!
Собираетесь с любого устройства r7 казино играть сразу после запуска. Выберите онлайн-версии и переходите к игре. Для начала посмотрите особенности игрового процесса. Выберите интересующий режим и продолжайте играть. Выбрали режим? Запускайте выбранную версию и начинайте после ознакомления с условиями.
Хотите казино онлайн gama играть онлайн с выбранного устройства. Запустите понравившийся формат и переходите к игре. В разделе игр доступны слоты разных тематик. Открывайте интересующие игры и переходите к игровому процессу. Перед использованием сервиса ознакомьтесь с правилами и ограничениями.
При необходимости обеспечить нанять телохранителя в москве цена на время поездок и мероприятий. Охранные специалисты помогают организовать сопровождение клиента. Перед заключением договора учитываются опыт работы. Требуется сопровождение? Закажите консультацию и обсудите подходящий формат охраны.