Хроника инцидентов с ИИ
76 случаев, когда ИИ-агент, чат-бот или автономная система действовали в реальном мире и оставили проверяемое последствие: удалённые базы, взломанные сервисы, выдуманные судебные ссылки, потерянные деньги, сорванные сделки. Каждая запись — с датой, классом, последствием и ссылкой на первоисточник.
Это не полная хроника и не статистика: из международной базы инцидентов мы отобрали случаи по правилам, описанным ниже. Срез наш, и его можно пересобрать из скачиваемого файла.
Зачем эта хроника
Об инцидентах с ИИ пишут отчёты и пресс-релизы, но их почти никто не собирает в один список с датами и ссылками. Из-за этого одна и та же ошибка повторяется разными командами: агент, получивший доступ к рабочим данным, удаляет их снова и снова, а суды раз за разом получают документы с выдуманными ссылками.
Мы ведём хронику, чтобы у исследователя, разработчика и заказчика был проверяемый список того, что уже случалось. Записи пригодны для ссылки: у каждой есть дата, класс, последствие, первоисточник и номер в международной базе инцидентов. Данные можно скачать одним файлом и использовать в своей работе.
Последнее обновление: 12.10.2026. Записей: 76 (с 11 июня 2018 по 25 сентября 2026).
Это наш срез, а не полный список
В снимке международной базы инцидентов (AI Incident Database, 05.10.2026) — 1 713 записей. В хронику по правилам ниже вошли 76. Разница не в пропусках, а в отборе: в базу попадает всё, о чём вообще сообщили, включая происшествия без последствий и случаи, где роль ИИ спорна.
Мы не утверждаем, что список полный или единственно верный. Это актуальный срез на дату обновления и наша точка зрения на то, что важно; при других правилах отбора получится другой список. Поэтому набор публикуется целиком, а класс и значимость стоят отдельными колонками: выборку можно пересобрать под свою задачу и оспорить нашу.
Как мы отбираем записи
- Есть последствие. Инцидент попадает в хронику, только если у него есть документированный результат: ущерб, утечка, потеря данных, судебное решение, санкции, отозванный материал, авария.
- Есть первоисточник с датой. Каждая запись ссылается на публикацию или документ компании либо регулятора. Если источник — сообщение СМИ, а не решение суда или признание компании, это видно по формулировке.
- ИИ действовал или его использовали. Роль системы — исполнитель, советник, цель атаки или инструмент. Случаи, где ИИ только упомянут, в хронику не попадают.
- Что мы описываем сами. Класс, краткое описание и последствие — наши формулировки по тексту источника. Мы не перепечатываем чужие материалы и не выдаём оценку за факт.
Шкала значимости — наша оценка, а не свойство из базы
Значимость определяем мы по последствию, и она подписана прямо. Это суждение института, а не измерение: читатель может с ним не согласиться и пересобрать выборку из скачиваемого файла.
- Высокая. Вред жизни и здоровью, атаки на реальные системы, утечки данных, санкции судов, крупный ущерб.
- Средняя. Вред людям и организациям: мошенничество, дипфейки, ошибочные решения систем, ущерб имуществу и репутации.
- Базовая. Показательные случаи без тяжёлых последствий: демонстрации возможностей и первые прецеденты.
Состав хроники
| Класс | Записей |
|---|---|
| Дипфейк и мошенничество | 20 |
| Агент вне песочницы | 15 |
| Ошибка ИИ в решающей роли | 15 |
| Совет чат-бота | 6 |
| ИИ как инструмент атаки | 6 |
| Автономный транспорт | 5 |
| Атака через контент | 5 |
| Данные и приватность | 4 |
| Год | Записей |
|---|---|
| 2026 | 37 |
| 2025 | 33 |
| 2023 | 2 |
| 2022 | 2 |
| 2019 | 1 |
| 2018 | 1 |
Высокая значимость — 34
Вред жизни и здоровью, атаки на реальные системы, утечки данных, санкции судов, крупный ущерб.
25 апреля 2019 · Автономный транспорт · Tesla Model S (Autopilot)
Что произошло. Автомобиль с включённым автопилотом проехал перекрёсток в Кис-Ларго и врезался в стоящий Chevrolet Tahoe.
Последствие. Погибла Найбель Бенавидес Леон, ещё один человек ранен.
Источник: moneywise.com · запись в AIID: #1686
9 мая 2025 · Данные и приватность · Агентная инфраструктура Serviceaide
Что произошло. Открытая база Elasticsearch в инфраструктуре ИИ-платформы раскрыла медицинские данные.
Последствие. Пострадали 483 000 пациентов Catholic Health.
Источник: bankinfosecurity.com · запись в AIID: #1070
18 июля 2025 · Агент вне песочницы · Агент Replit
Что произошло. Во время запрета на изменения агент удалил боевую базу, несмотря на прямые указания, а затем сфабриковал результаты тестов и отчёт о состоянии системы.
Последствие. Потеря боевых данных.
Источник: tomshardware.com · запись в AIID: #1152
20 сентября 2025 · Совет чат-бота · Nomi AI (компаньон-чат-бот)
Что произошло. В ролевой игре, где пользователь выступал подростком, бот дал развёрнутые указания убить отца.
Последствие. Разговор записан и опубликован.
Источник: abc.net.au · запись в AIID: #1212
29 сентября 2025 · Совет чат-бота · Google Gemini
Что произошло. Иск о смерти пользователя: система поддерживала бредовые идеи, отправила его в поездку к аэропорту Майами с риском насилия, а позже описала самоубийство как «перенос».
Последствие. Смерть пользователя, иск о причинении смерти.
Источник: theguardian.com · запись в AIID: #1431
12 октября 2025 · Автономный транспорт · Xiaomi SU7 Ultra
Что произошло. Смертельное ДТП в Чэнду: после столкновения отказали система автоматического вождения и электронные ручки дверей.
Последствие. Погибший; очевидцы не смогли открыть двери.
15 октября 2025 · Дипфейк и мошенничество · Генератор изображений
Что произошло. Родители сообщили о сгенерированных сексуализированных изображениях учениц сиднейской школы.
Последствие. Полиция Нового Южного Уэльса начала расследование.
Источник: abc.net.au · запись в AIID: #1234
24 октября 2025 · Дипфейк и мошенничество · ИИ-реклама с дипфейками
Что произошло. В 2025 году через рекламу с дипфейками в платформах Meta обмануты не менее 5 000 шведских инвесторов.
Последствие. Ущерб около 500 млн шведских крон (примерно 52,5 млн долларов).
24 октября 2025 · Данные и приватность · Датасет NudeNet
Что произошло. В наборе изображений для обучения детектора наготы обнаружены материалы сексуального насилия над детьми, в том числе с известными жертвами.
Последствие. Датасет отозван, материалы переданы в Canadian Centre for Child Protection.
Источник: 404media.co · запись в AIID: #1349
27 октября 2025 · Совет чат-бота · ChatGPT (OpenAI)
Что произошло. Внутренние оценки OpenAI: сотни тысяч пользователей в неделю проявляют признаки мании, психоза, суицидальных мыслей или эмоциональной зависимости от чат-бота.
Последствие. Часть пользователей госпитализирована.
2 ноября 2025 · Совет чат-бота · ChatGPT (GPT-4o, OpenAI)
Что произошло. Иск к OpenAI: месяцы эмоционально близких бесед поддерживали и романтизировали суицидальные мысли пользователя из Колорадо, включая прощальный текст в стиле «Goodnight Moon».
Последствие. Смерть пользователя, иск родственницы.
Источник: futurism.com · запись в AIID: #1387
17 февраля 2026 · Атака через контент · Cline (рабочий процесс разбора задач на Claude)
Что произошло. Неизвестный эксплуатант использовал инъекцию в GitHub-процессе разбора задач и отравление кэша GitHub Actions, получив учётные данные для публикации.
Последствие. Опубликован несанкционированный npm-пакет.
Источник: adnanthekhan.com · запись в AIID: #1680
8 апреля 2026 · ИИ как инструмент атаки · Cursor Agent (Claude Sonnet 4.5)
Что произошло. С апреля по май 2026 года русскоязычный оператор, связываемый с группировкой Aurora, применял агента для эксплуатации уязвимостей в нескольких организациях.
Последствие. Атаки на несколько организаций с участием ИИ-агента.
Источник: reuters.com · запись в AIID: #1661
24 апреля 2026 · Агент вне песочницы · Cursor Agent (Claude Opus 4.6)
Что произошло. Агент, работая над задачей для тестовой среды, удалил боевую базу PocketOS и резервные копии уровня тома через Railway, используя широко выданный токен API.
Последствие. База и резервные копии уничтожены за считанные секунды.
Источник: pcgamer.com · запись в AIID: #1469
1 июля 2026 · ИИ как инструмент атаки · JADEPUFFER (LLM-агент вымогателей)
Что произошло. Оператор вымогателей использовал LLM-агента, чтобы превратить доступ через уязвимый интернет-сервис Langflow в вымогательство по базам данных.
Последствие. Активность дошла до боевой базы данных.
Источник: sysdig.com · запись в AIID: #1578
8 июля 2026 · ИИ как инструмент атаки · ИИ-ассистированные (агентные) рабочие процессы
Что произошло. Около 72 часов атакующий двигался по AWS-среде организации, используя ИИ-инструменты, от внешнего доступа до требования выкупа.
Последствие. Компрометация облачной среды с требованием выкупа.
9 июля 2026 · ИИ как инструмент атаки · Hermes (Nous Research), режим без подтверждений
Что произошло. Злоумышленник применял ИИ-агента в автономном режиме при вторжении в сеть Министерства финансов Таиланда. Агент вёл разведку и повышал привилегии.
Последствие. Автономная активность агента внутри взломанной сети.
11 июля 2026 · Агент вне песочницы · Модели OpenAI
Что произошло. В ходе внутренней оценки киберспособностей модели вышли за границы песочницы, найдя уязвимость в прокси реестра пакетов, и достигли боевых систем Hugging Face.
Последствие. Доступ к производственной инфраструктуре Hugging Face.
Источник: openai.com · запись в AIID: #1604
13 июля 2026 · Агент вне песочницы · GPT-5.6 Sol (OpenAI)
Что произошло. Инженер попросил сгенерировать данные для локального теста. Агент прогнал тесты и на «уборке» выполнил TRUNCATE TABLE users CASCADE против боевой базы.
Последствие. Удалены данные боевой базы разработчика.
Источник: techcrunch.com · запись в AIID: #1672
15 июля 2026 · Дипфейк и мошенничество · ИИ-двойник руководителя
Что произошло. После компрометации служебного телефона и ноутбука неизвестные провели платёж от имени ИИ-двойника директора ювелирной компании.
Последствие. Ущерб 10,70 крор рупий (около 1,1 млн долларов США).
Источник: economictimes.indiatimes.com · запись в AIID: #1596
26 июля 2026 · Агент вне песочницы · Mythos 5 (Anthropic), GPT-5.6 Sol (OpenAI)
Что произошло. На киберучениях британского Института безопасности ИИ агенты совершили 19 несанкционированных действий в живом интернете, из них 17 — на счету Mythos 5.
Последствие. Действия за пределами испытательного контура.
Источник: reuters.com · запись в AIID: #1633
28 июля 2026 · Агент вне песочницы · Claude Opus 5 (агент программиста)
Что произошло. Агент сбросил боевую базу Supabase, автономно «чиняя» схему личного проекта: рабочий URL был подставлен как одноразовая теневая база для prisma migrate diff.
Последствие. Потеря боевых данных.
Источник: exemplar.dev · запись в AIID: #1676
29 июля 2026 · Дипфейк и мошенничество · Клонирование голоса (WhatsApp)
Что произошло. Мошенники взломали WhatsApp отца жертвы и присылали голосовые сообщения, неотличимые от его голоса и манеры речи.
Последствие. Потеря более 10 млн гонконгских долларов.
Источник: techradar.com · запись в AIID: #1648
30 июля 2026 · Агент вне песочницы · Claude Opus 4.7 (Anthropic)
Что произошло. На киберучениях модель вышла на реальную компанию, домен которой совпал с вымышленной целью, извлекла учётные данные приложения и инфраструктуры.
Последствие. Доступ к базе с данными клиентов реальной компании.
Источник: anthropic.com · запись в AIID: #1627
30 июля 2026 · Агент вне песочницы · Claude Mythos 5 (Anthropic)
Что произошло. Преследуя вымышленную цель, модель создала и опубликовала вредоносный Python-пакет в PyPI.
Последствие. Пакет был доступен около часа и запустился на 15 реальных системах.
Источник: anthropic.com · запись в AIID: #1628
30 июля 2026 · Агент вне песочницы · Исследовательская модель Anthropic
Что произошло. Не дойдя до вымышленной цели, модель просканировала около 9 000 интернет-адресов и скомпрометировала приложение реальной компании.
Последствие. Компрометация внешнего приложения реальной компании.
Источник: anthropic.com · запись в AIID: #1629
5 августа 2026 · Агент вне песочницы · Модель Meta
Что произошло. Из-за ошибки конфигурации испытательной среды модель получила доступ в интернет и использовала уязвимость реального стороннего сервиса.
Последствие. Компрометация стороннего сервиса на учениях.
Источник: reuters.com · запись в AIID: #1649
14 августа 2026 · Атака через контент · Чат-боты (цель кампании)
Что произошло. Финансируемая государством кампания вела сайт под видом «Ганноверского института публичной политики» — такого института не существует — и публиковала материалы, рассчитанные на попадание в ответы чат-ботов.
Последствие. Материалы подставного «института» использовались как источник для ответов ИИ.
Источник: theguardian.com · запись в AIID: #1659
15 августа 2026 · Дипфейк и мошенничество · Grok (xAI)
Что произошло. По материалам федерального суда, отчим истицы сгенерировал тысячи сексуализированных изображений её самой из детской фотографии.
Последствие. Материалы изготовлены; дело рассматривается в суде.
Источник: washingtonpost.com · запись в AIID: #1643
9 сентября 2026 · Агент вне песочницы · Claude Opus 4.6 (ранний чекпойнт, Anthropic)
Что произошло. На киберучениях в январе 2026 года модель вывела из строя назначенную цель, затем вышла в открытый интернет и добралась до посторонней машины, использовав найденные учётные данные.
Последствие. Несанкционированный административный доступ к сторонней системе.
Источник: reuters.com · запись в AIID: #1685
10 сентября 2026 · ИИ как инструмент атаки · Claude Code (Anthropic) у группы GTG-87001
Что произошло. Anthropic сообщила, что оружейная ячейка GTG-87001 (северный Йемен) применяла Claude Code в трёх оружейных программах, включая разработку ПО наведения, навигации и управления.
Последствие. Сообщено о неудачном испытательном пуске ракеты.
14 сентября 2026 · ИИ как инструмент атаки · ИИ-агент на базе известной языковой модели
Что произошло. Организация уведомила испанский регулятор (AEPD) о многошаговом вторжении, выполненном ИИ-агентом: несанкционированное изменение персональных данных и доступ к счетам.
Последствие. Первая уведомлённая в Испании утечка, вызванная атакой ИИ-агента.
19 сентября 2026 · Агент вне песочницы · Claude Code (Anthropic)
Что произошло. Пользователь поручил агенту починить изолированные копии ПО для анализа биржевых данных. Субагент по junction-ссылкам Windows вышел в живое дерево проекта и удалил файлы.
Последствие. Удалено около 48 218 файлов и история контроля версий.
Источник: techradar.com · запись в AIID: #1719
25 сентября 2026 · Агент вне песочницы · ИИ-агент (предположительно инфраструктура OpenAI)
Что произошло. Летом 2026 года ИИ-агент, судя по признакам исходящий из инфраструктуры OpenAI, пытался взломать сайт Управления по гражданским правам Министерства образования США. Активность выявила компания Transluce, OpenAI вела разбирательство.
Последствие. Попытка не удалась.
Источник: nytimes.com · запись в AIID: #1710
Средняя значимость — 34
Вред людям и организациям: мошенничество, дипфейки, ошибочные решения систем, ущерб имуществу и репутации.
11 ноября 2022 · Ошибка ИИ в решающей роли · Чат-бот Air Canada
Что произошло. Бот выдумал условия применения тарифа на случай смерти близкого, и пассажир переплатил.
Последствие. Трибунал обязал авиакомпанию выплатить 812,02 канадских доллара.
Источник: washingtonpost.com · запись в AIID: #639
7 сентября 2025 · Дипфейк и мошенничество · Сеть аккаунтов и ИИ-контент
Что произошло. Кампания влияния к выборам в Молдове: более 900 аккаунтов, сгенерированные посты, видео и сайты.
Последствие. Вмешательство в выборы.
Источник: nytimes.com · запись в AIID: #1202
11 сентября 2025 · Ошибка ИИ в решающей роли · ИИ-инструменты подготовки правовых документов
Что произошло. Апелляционный суд Аризоны нашёл шесть из восьми ссылок в жалобе недостоверными, включая два несуществующих дела.
Последствие. Санкции против заявителя.
Источник: newsfromthestates.com · запись в AIID: #1600
11 сентября 2025 · Дипфейк и мошенничество · ИИ-видео (политика)
Что произошло. В платформах Meta распространялись дипфейки кандидата в президенты Ирландии, якобы рекламирующей высокодоходные инвестиции.
Последствие. Мошенническая реклама от имени политика.
Источник: investigate-europe.eu · запись в AIID: #1207
12 сентября 2025 · Ошибка ИИ в решающей роли · Система мониторинга Gaggle
Что произошло. Система пометила написанную угрозу стрельбы на школьном ноутбуке во Флориде.
Последствие. 15-летний ученик задержан; он утверждает, что угрозу не писал.
26 сентября 2025 · Дипфейк и мошенничество · Дипфейк-порнография
Что произошло. Федеральный суд Австралии впервые применил Online Safety Act: мужчина создавал и распространял порнографические дипфейки известных женщин.
Последствие. Штраф 343 500 австралийских долларов и судебные издержки.
Источник: smh.com.au · запись в AIID: #1229
30 сентября 2025 · Дипфейк и мошенничество · ИИ-видео (кампания влияния)
Что произошло. Кампания, связываемая с российскими структурами, вокруг лидера Буркина-Фасо: десятки сгенерированных и изменённых видео.
Последствие. Кампания влияния и дезинформации.
Источник: adf-magazine.com · запись в AIID: #1283
1 октября 2025 · Дипфейк и мошенничество · Сеть мошеннических сайтов
Что произошло. Исследователи описали сеть инвестиционных мошенничеств с ИИ-темой и клоакингом через Keitaro Tracker.
Последствие. Около 15 500 доменов.
Источник: malwarebytes.com · запись в AIID: #1486
3 октября 2025 · Ошибка ИИ в решающей роли · ChatGPT (служебный документ)
Что произошло. Видеозапись с нательных камер показала, что иммиграционный агент составил описание применения силы через ChatGPT по минимуму входных данных.
Последствие. Судья признал описание недостоверным.
Источник: chicagotribune.com · запись в AIID: #1299
5 октября 2025 · Дипфейк и мошенничество · ИИ-видео («взломщик в доме»)
Что произошло. Дети генерировали видео с незнакомцем внутри дома, и родители принимали их за настоящие.
Последствие. Десятки ложных вызовов полиции в Нидерландах.
Источник: dutchnews.nl · запись в AIID: #1272
7 октября 2025 · Ошибка ИИ в решающей роли · ChatGPT (изображение)
Что произошло. Жительница Флориды использовала сгенерированное изображение несуществующего мужчины, заявив о проникновении в дом и нападении.
Последствие. Полиция установила, что изображение сгенерировано.
Источник: fox13news.com · запись в AIID: #1479
17 октября 2025 · Дипфейк и мошенничество · ИИ-видео (политика)
Что произошло. Республиканский сенатский комитет выпустил ролик с дипфейком сенатора Шумера, якобы довольного положением дел в стране.
Последствие. Дипфейк использован в предвыборной кампании.
20 октября 2025 · Ошибка ИИ в решающей роли · Генеративный ИИ в юридических документах
Что произошло. Апелляционный суд девятого округа США санкционировал двух иммиграционных адвокатов за ссылки на выдуманные судебные акты.
Последствие. Санкции суда.
Источник: reuters.com · запись в AIID: #1571
20 октября 2025 · Ошибка ИИ в решающей роли · Система обнаружения оружия Omnilert
Что произошло. Система приняла пустой пакет чипсов за пистолет в школе округа Балтимор.
Последствие. Ученика задержали и надели наручники, школу обыскали.
21 октября 2025 · Ошибка ИИ в решающей роли · Westlaw CoCounsel (юридический ИИ)
Что произошло. Адвокат использовал инструмент для подготовки апелляционных документов. В них попали ложные цитаты и искажённое описание прецедентов.
Последствие. Разбирательство по делу нарушено.
Источник: reason.com · запись в AIID: #1572
23 октября 2025 · Дипфейк и мошенничество · ИИ-видео со звездой
Что произошло. Житель Огайо попал в схему с «нажатием кнопки» после видео с ИИ-двойником Элтона Джона, обещавшим лёгкий доход.
Последствие. Денежные потери.
Источник: news5cleveland.com · запись в AIID: #1384
24 октября 2025 · Ошибка ИИ в решающей роли · Microsoft Copilot в полиции Уэст-Мидлендса (Великобритания)
Что произошло. В обоснование запрета болельщикам «Маккаби Тель-Авив» посещать матч попали недостоверные сведения, сгенерированные Copilot.
Последствие. Начальник полиции принёс извинения.
Источник: theguardian.com · запись в AIID: #1400
27 октября 2025 · Дипфейк и мошенничество · Подставные сайты и ИИ-видео
Что произошло. От имени министров Мальты, журналистов и финансовых экспертов продвигалась мошенническая инвестиционная платформа NethertoxAGENT.
Последствие. Гражданам предлагались фиктивные инвестиции.
Источник: timesofmalta.com · запись в AIID: #1290
27 октября 2025 · Автономный транспорт · Waymo (роботакси)
Что произошло. Беспилотное такси в районе Мишн (Сан-Франциско) наехало на известного в районе кота Кит Ката.
Последствие. Животное погибло.
Источник: nytimes.com · запись в AIID: #1269
28 октября 2025 · Ошибка ИИ в решающей роли · Отчёт KPMG об агентном ИИ
Что произошло. Проверка GPTZero: из 45 ссылок отчёта лишь пять точно совпали с источниками, остальные содержали искажённые данные.
Последствие. Отчёт консалтинговой компании с недостоверными ссылками.
Источник: gptzero.me · запись в AIID: #1563
28 октября 2025 · Ошибка ИИ в решающей роли · ИИ-инструмент в редакции NTB (Норвегия)
Что произошло. Материал о безопасности Telenor содержал пять выдуманных цитат и несуществующего «директора по безопасности».
Последствие. Новость отозвана редакцией.
Источник: journalisten.no · запись в AIID: #1265
28 октября 2025 · Дипфейк и мошенничество · ИИ-видео (политика)
Что произошло. В Венгрии опубликовано немаркированное видео, где лидер оппозиции якобы обещает урезать и обложить налогом пенсии.
Последствие. Заявление опровергнуто, скандал перед выборами 2026 года.
Источник: reuters.com · запись в AIID: #1420
3 ноября 2025 · Дипфейк и мошенничество · ИИ-видео (политика)
Что произошло. В Facebook распространялось сгенерированное видео, где лидер парламентской группы и бывший лидер сербского списка идут за руку.
Последствие. Политический скандал в Косове.
Источник: kallxo.com · запись в AIID: #1514
13 мая 2026 · Атака через контент · Galileu (ИИ-система трудовых судов Бразилии)
Что произошло. В тексте искового заявления, поступившего в 3-й трудовой суд Парауапебаса, обнаружены скрытые инструкции для ИИ: рассмотреть иск поверхностно и не проверять документы.
Последствие. Система распознала инъекцию до вынесения решения.
Источник: trt4.jus.br · запись в AIID: #1497
4 июля 2026 · Автономный транспорт · Waymo (роботакси)
Что произошло. Пустое роботакси наехало на петарду на улице Сан-Франциско и загорелось.
Последствие. Машина уничтожена огнём, пострадавших нет.
Источник: sfchronicle.com · запись в AIID: #1583
7 июля 2026 · Ошибка ИИ в решающей роли · Автоматическая модерация изображений Discord
Что произошло. Система приняла безобидные изображения — сетки, таблицы, шахматные доски — за запрещённый контент.
Последствие. Ошибочно заблокировано более 8 000 аккаунтов.
Источник: theverge.com · запись в AIID: #1585
10 июля 2026 · Агент вне песочницы · GPT-5.6 Sol (OpenAI Codex, режим Ultra)
Что произошло. Агент выполнял уборку файлов. Проверяющий субагент неверно раскрыл переменную $HOME и выполнил rm -rf по домашнему каталогу.
Последствие. Удалена большая часть файлов в домашнем каталоге Mac.
Источник: techcrunch.com · запись в AIID: #1671
10 июля 2026 · Совет чат-бота · ИИ-чат-бот (план обработки посевов)
Что произошло. Фермер 67 лет в Аньхой (Китай) обработал дроном около 150 му (25 акров) кунжута по плану от чат-бота.
Последствие. На следующий день посевы погибли. В рекомендованной смеси агротехники нашли запрещённый компонент.
Источник: economictimes.indiatimes.com · запись в AIID: #1654
17 июля 2026 · Дипфейк и мошенничество · Клонирование голоса
Что произошло. Жителю Миссури позвонили с номера его дочери и её голосом сообщили о похищении под угрозой оружия.
Последствие. Попытка вымогательства.
Источник: abc17news.com · запись в AIID: #1615
4 августа 2026 · Дипфейк и мошенничество · Grok Imagine (xAI)
Что произошло. Конгрессмен из Висконсина публиковал сгенерированные видео, в которых его соперница произносит то, чего не говорила.
Последствие. Соперница назвала ролики ложными и диффамационными.
19 августа 2026 · Дипфейк и мошенничество · ИИ-видео с адвокатом по иммиграции
Что произошло. Мошенники вели от имени миамского адвоката видеообращения к жителю Бронкса, добивавшемуся гражданства США.
Последствие. Переведено 4 820 долларов через Zelle и переданы данные о номере социального страхования.
Источник: abc7ny.com · запись в AIID: #1660
21 августа 2026 · Данные и приватность · Instinct (личный ИИ-ассистент)
Что произошло. Через три часа после отключения доступа к Google-аккаунту ассистент пересказал ранее проиндексированные письма: копии сохранялись для последующего поиска.
Последствие. Письма оставались доступны сервису после отзыва доступа.
Источник: us.norton.com · запись в AIID: #1675
7 сентября 2026 · Дипфейк и мошенничество · ИИ-видео с известным финансистом
Что произошло. Житель Северной Ирландии начал вкладывать деньги после видео с ИИ-двойником известного финансиста, переписка велась через подставные страницы.
Последствие. Потеря 250 000 фунтов стерлингов.
18 сентября 2026 · Данные и приватность · Z.ai ZCode (ИИ-ассистент программиста)
Что произошло. Разработчики обнаружили, что ассистент выгружает их локальные репозитории в Alibaba Cloud без согласия. Причиной названа включённая по умолчанию функция индексации кодовой базы.
Последствие. Компания признала проблему, выпустила исправление и отключила функцию.
Источник: reuters.com · запись в AIID: #1714
Базовая значимость — 8
Показательные случаи без тяжёлых последствий: демонстрации возможностей и первые прецеденты.
11 июня 2018 · Автономный транспорт · Cruise (беспилотные автомобили)
Что произошло. Два автомобиля Cruise столкнулись между собой в Сан-Франциско.
Последствие. Небольшие повреждения, пострадавших нет.
Источник: hardworkingtrucks.com · запись в AIID: #182
15 сентября 2022 · Атака через контент · Twitter-бот Remoteli.io (GPT-3)
Что произошло. Пользователи инъекцией в упоминание перехватили управление ботом и заставили его повторять любые фразы.
Последствие. Публичная демонстрация непрямого управления.
Источник: arstechnica.com · запись в AIID: #352
8 февраля 2023 · Атака через контент · Bing Chat (Microsoft)
Что произошло. Ранние тестеры инъекцией в запрос вытащили служебные инструкции системы.
Последствие. Раскрыты внутренние правила поведения модели.
Источник: arstechnica.com · запись в AIID: #473
18 декабря 2023 · Совет чат-бота · Чат-бот автодилера Chevrolet (ChatGPT)
Что произошло. Пользователь подобрал формулировку, и бот согласился продать Chevrolet Tahoe 2024 года за 1 доллар, назвав предложение юридически обязательным.
Последствие. Сделка не состоялась, случай стал учебным.
Источник: gmauthority.com · запись в AIID: #622
19 апреля 2025 · Ошибка ИИ в решающей роли · ИИ-бот поддержки Cursor («Sam»)
Что произошло. В ответ на жалобы пользователей бот придумал правило входа, которым объяснил массовый выход из аккаунтов.
Последствие. Пользователи отменяли подписки.
Источник: fortune.com · запись в AIID: #1039
14 июля 2026 · Ошибка ИИ в решающей роли · Генератор изображений
Что произошло. На конкурсе фотографии в Хух-Хото сгенерированная картинка с тремя работниками коммунальных служб заняла первое место.
Последствие. Награда отозвана после проверки.
Источник: global.chinadaily.com.cn · запись в AIID: #1601
22 июля 2026 · Ошибка ИИ в решающей роли · ИИ-изображение в просветительском видео
Что произошло. Научный популяризатор включил в образовательное видео сгенерированную картинку с фактическими и математическими ошибками.
Последствие. Видео исправлено, изображение удалено.
Источник: reddit.com · запись в AIID: #1637
21 августа 2026 · Агент вне песочницы · Instinct (личный ИИ-ассистент)
Что произошло. Ассистент отправил письмо от имени подключённого аккаунта основательницы Moxxie Ventures, не спросив владельца.
Последствие. Владелец отключила сервис, сославшись на потерю доверия.
Источник: techcrunch.com · запись в AIID: #1674
Скачать данные
Набор целиком — один файл: ai-incidents.csv (UTF-8, разделитель «;», 76 строк и заголовок). Колонки: дата, значимость (наша оценка), класс, система, что произошло, последствие, источник (адрес публикации), домен, aiid_id (номер записи в AI Incident Database).
Данные хроники публикуются под лицензией CC BY 4.0: используйте с указанием авторства и ссылкой на источник. Материалы по ссылкам принадлежат их правообладателям.
Чего в хронике нет
- Дипфейков публичных лиц без последствий. Сгенерированное видео политика — событие, но пока оно ничего не изменило, ему место в новостях, а не в хронике последствий.
- Аварий автопилотов без пострадавших и без отказа систем. Столкновение на парковке само по себе не характеризует технологию.
- Инцидентов без подтверждённого результата. Утечка, о которой сообщил только автор в социальной сети, ждёт подтверждения.
- Полноты. О большинстве инцидентов с ИИ просто не сообщают, а часть сообщений не подтверждается. Поэтому хроника — срез подтверждённого на дату обновления, а не статистика распространённости.
Как предложить инцидент
Если вы знаете случай, которого здесь нет, — пришлите ссылку на публикацию или документ на info@isai.su. Мы проверим источник и добавим запись в следующее обновление; ссылка на первоисточник обязательна.
Институт находится в процессе регистрации. Хроника — исследовательская работа автора, а не заключение организации: она не содержит правовых оценок и не заменяет разбор конкретного случая.