Ответственность за ИИ: пока её пишут лишь те, кого она касается
Выпуск на 23 октября. Специальных правил ответственности за ИИ нет ни в ЕС, ни в США, ни в России: работают общие нормы, ими и судят. А специальные пишут те, кого они касаются. Четыре сюжета за две недели — и один вывод.
1. Банки США не отличают ИИ-агента от клиента
22.10.2026. Крупнейшие банки США фиксируют активность несанкционированных сторонних ИИ-агентов в учётных записях клиентов. Агенты входят по логину и паролю клиента, в части случаев звонят в call-центры и «совершают действия, не предусмотренные прямыми указаниями владельца счёта». Руководители банков называют ситуацию «пугающей», пишет Axios в пересказе «Известий».
Главное здесь не масштаб, а причина: банки пока не умеют отличать действия агента от действий человека. Поэтому реакция техническая, а не правовая — блокировать такие технологии и переписывать правила обслуживания. Morgan Stanley несанкционированного доступа к внутренним системам не фиксировал, но блокировку доступа к своим платформам для подобных агентов уже начал.
Почему это про ответственность. Система идентификации построена на допущении «логин и пароль знает только человек». Агент это допущение формально выполняет: он пришёл с правильными данными, значит это клиент. Когда агент ошибается, отвечать по общим правилам некому: клиент дал доступ, банк не нарушил процедуру, агент не субъект права. Специальной нормы, которая распределила бы этот риск, нет.
И это не гипотеза на будущее. Дыра уже в деньгах: пока банк не может различить агента и человека, юридический вопрос «кто действовал» решить нечем, и остаётся технический ответ — запретить.
Источник: Axios, 22.10.2026, в изложении «Известий» — iz.ru. Первоисточник Axios мы не открывали — это оговорка, а не мелочь.
2. Anthropic пишет закон о себе — и правит его после критики
22.10.2026. Anthropic переписывает часть собственного проекта федерального закона о безопасности ИИ после волны критики от специалистов по безопасности и законодателей. Повод — конфиденциальный документ, который компания обсуждала с сотрудниками Конгресса США и который опубликовало Politico. Критики считают, что предложенные правила слабее двухпартийного Frontier Act и затруднят блокировку опасных моделей.
По утёкшему тексту власти могли бы добиваться запрета модели только при узком наборе условий: риск предсказуемый и непосредственный, ущерб больше 1 млрд долларов либо гибель или серьёзные травмы более 50 человек. Основания — создание биологического оружия, выход модели из-под контроля разработчика, кибератака. Запрет — только через федеральный суд по обращению Минторга США; другим ведомствам самостоятельно приостанавливать работу модели проект запрещает.
Отдельные претензии — ограничение полномочий штатов и требования к независимым аудиторам: оценщики могли бы получать оплату от самих разработчиков, единых стандартов лицензирования для них не устанавливалось. 18 октября руководитель федерального направления компании Энтони Чимино признал, что формулировки о приоритете федерального права над законами штатов «недостаточно точные», и обещал пересмотреть пороги риска и подход к блокировке. Сенатор от Калифорнии Скотт Винер заявил, что предложение недостаточно защищает общественную безопасность; с другой стороны выступил бывший куратор Белого дома по ИИ Дэвид Сакс.
Что здесь стоит заметить. Компания не лоббирует чужой закон — она приносит свой. И получает критику сразу с двух сторон: от безопасности «слишком мягко, опасную модель не остановить» и от индустрии «слишком жёстко, задушит разработку». Даже при честном мотиве порог в 50 погибших — это порог, который написала компания, а не пострадавшие.
Источник: IXBT со ссылкой на Politico, 22.10.2026 — ixbt.com. Пороги риска до публикации сверить по второму независимому источнику — это ключевые цифры выпуска.
3. Европарламент: отменённую директиву об ответственности хотят вернуть
21–22.10.2026. Поддерживающие фон дер Ляйен центристские партии столкнулись на пленарном заседании из-за вопроса о привлечении к ответственности компаний, занимающихся ИИ. Еврокомиссия рассматривала специальные правила ответственности в 2022 году, но отказалась от них в 2025-м ради упрощения процедур и конкурентоспособности.
Вице-председатель фракции «Социалисты и демократы» Алекс Агиус Салиба назвал отказ «большой ошибкой» и призвал представить законопроект. Левоцентристы и «зелёные» требуют новый закон и ответственность разработчиков моделей по аналогии с производителями обычных товаров. Правоцентристские депутаты против: снижение административной нагрузки и рост частных инвестиций. Еврокомиссар по международному партнёрству Йозеф Сикела напомнил, что правила отменили из-за невозможности согласовать их между странами ЕС и депутатами.
Короткая хронология, без которой спор непонятен: в 2022 году Комиссия предлагает директиву об ответственности за ИИ, в 2025-м отзывает её ради упрощения, в октябре 2026-го парламент требует вернуть. Два года на подготовку, год на отказ, теперь обратно. Это и есть цена нерешённого вопроса: пока правила нет, риск лежит на том, кто первый попался, — на банке, на враче, на клиенте.
Источник: Politico, в изложении «Взгляда», 22.10.2026 — vz.ru.
4. Россия: требования безопасности вместо ответственности
Приказ ФСТЭК России от 11.04.2025 № 117 мы разбирали в пятом выпуске: он действует с 1 марта 2026 года, про искусственный интеллект в нём два рабочих пункта — 60 и 61, и мы отдельно показывали, что «прямой запрет облачных ИИ-сервисов» приписали приказу издания, а не его текст. Повторять не будем.
Для темы этого выпуска из приказа следует одно: он отвечает на вопрос «как защитить информацию и систему», а не «кто возместит вред, если модель ошиблась». Пункт 61 требует, чтобы решение по результату работы модели принимал человек, — но это обязанность оператора, а не норма, по которой отвечает разработчик модели. Ответственности в приказе просто нет: не «слабо прописана», а не является предметом.
И это характерная картина. Россия строит регулирование от безопасности системы: 243-ФЗ задаёт обязанности — маркировку, допуск моделей, доступ к данным, — приказ № 117 задаёт требования к защите информации. Ни один из этих документов не отвечает на вопрос, кто платит, когда нейросеть навредила. В Европе этот вопрос хотя бы признали вопросом — и директиву отменили. У нас его пока не ставили.
Приказ касается государственного сектора — государственных информационных систем, систем госорганов, государственных унитарных предприятий и госучреждений; коммерческий сектор он не регулирует. Название и даты сверены по первоисточнику — publication.pravo.gov.ru, номер опубликования 0001202506170011.
5. Что из этого следует
- Отсутствие директивы — тоже решение. ЕС не «забыл» про ответственность, он её отменил. Пока нормы нет, издержки ошибки несёт тот, у кого меньше выбора: клиент банка, пациент, читатель.
- Саморегулирование приносит текст, но не независимость. Черновик Anthropic полезен, однако порог в 50 погибших писала компания. Вопрос не в честности, а в позиции автора.
- Техническая неразличимость агента и человека — новая дыра, и она уже в деньгах. Пока банки не отличают одного от другого, вопрос «кто действовал» решить нечем.
- Для нас практический вывод: в услугах и на стенде фиксировать, что решение по результату испытаний принимает человек, и хранить след — кто именно нажал. Это не гарантия ответственности, но единственное, что работает, пока правил нет.
6. Числа выпуска и где их проверить
| Число | Что означает | Где проверить |
|---|---|---|
| 22.10.2026 | дата публикации о ИИ-агентах в банках США | «Известия» со ссылкой на Axios |
| 1 млрд $ | порог ущерба в черновике Anthropic | IXBT со ссылкой на Politico |
| 50 | порог погибших или тяжело пострадавших в том же черновике | там же |
| 2022 · 2025 · 2026 | предложена, отменена, затребована обратно директива об ответственности в ЕС | Politico через «Взгляд» |
| 8 | штатов судят OpenAI по законам о защите потребителей | пятый выпуск |
| 60 и 61 | пункты приказа ФСТЭК № 117, где говорится про ИИ | пятый выпуск, текст приказа |
| 01.03.2026 | приказ № 117 действует с этой даты | publication.pravo.gov.ru |
| 11.04.2025 | дата приказа ФСТЭК № 117 | там же |
Выпуск подготовлен 23.10.2026. Внешние источники открывались в день выпуска; пересказы помечены в тексте. Если нашли ошибку — напишите на info@isai.su, мы исправим и отметим правку.