Представьте: тысячи государственных служащих каждый день вводят номера водительских удостоверений, медицинских карточек и кредитных карт граждан в случайные сайты с ИИ — и никто их не остановил. Именно это зафиксировала Генеральный аудитор провинции Онтарио в своём специальном докладе.
Генеральный аудитор Онтарио Шелли Спенс опубликовала доклад 12 мая 2026 года. Вывод неутешительный: правительство Форда позволило государственным сотрудникам загружать персональные данные жителей Онтарио на незащищённые ИИ-платформы — без надлежащих мер безопасности.
Цифры, от которых волосы встают дыбом
С апреля по август 2025 года около 12 000 сотрудников провинциального правительства обращались примерно к 400 веб-сайтам с ИИ-инструментами для генерации текста, изображений и кода.
Из этих 400 ресурсов 244 (около 60%) были признаны небезопасными или незащищёнными по оценке антивирусного ПО Microsoft Defender, которое использует само правительство.
При этом единственный официально одобренный инструмент — чат Microsoft Copilot — составил лишь 6% от всех обращений. Остальные 94% пришлось на сторонние публичные сайты.
Что именно туда загружали?
Министерство доставки и закупок публичных и бизнес-услуг (Ministry of Public and Business Service Delivery and Procurement), по заключению аудитора, «не имело последовательно эффективных процессов и процедур» для обеспечения безопасного использования ИИ.
Ведомство «не внедрило средства защиты, которые не позволяли бы сотрудникам случайно загружать персональные данные жителей Онтарио» — такие как номера медицинских карточек, водительских удостоверений, кредитных карт, а также конфиденциальные правительственные документы, включая контракты и счета-фактуры.
Когда сотрудники государственной службы используют общедоступные сайты с генеративным ИИ, существует риск того, что эти сайты могут сохранять и использовать введённые данные, включая персональную и конфиденциальную информацию, для обучения своих языковых моделей.
ИИ-скрайб: галлюцинирующий «доктор» в кармане медика
Отдельный раздел доклада посвящён системам «ИИ-скрайб» (AI Scribe) — программам для автоматической записи медицинских консультаций врачами.
При тестировании девять из двадцати одобренных систем привносили ложную информацию и предлагали методы лечения, о которых не шла речь во время приёма. Двенадцать систем неверно указали названия препаратов, а семнадцать пропустили важные детали, касающиеся психического здоровья пациентов.
Аудитор предупреждает, что неточности в медицинских записях, созданных с помощью «ИИ-скрайб», могут привести к неправильным или опасным планам лечения и повлиять на здоровье людей.
Минимальное обучение и риски
Единственный официально одобренный генеративный ИИ-инструмент — чат Microsoft Copilot — использовался лишь в 6% случаев. Остальные 94% обращений приходятся на неподтверждённые сайты.
Обучение по курсу «Ответственное использование ИИ» прошли лишь 1800 сотрудников из 55 000 (около 3%). При этом курс оставался добровольным.
Взгляд экспертов и проблемы суверенитета данных
По словам Рене Зибер (Renée Sieber), профессора Макгиллского университета, выводы доклада свидетельствуют о том, что в Онтарио отдают приоритет эффективности в ущерб надёжности. Она подчеркнула серьёзные риски безопасности, если в ИИ-системы вводятся чувствительные данные — номера страховых свидетельств, даты рождения и адреса.
Помимо этого, зависимость от американских компаний (Microsoft, Amazon Web Services, Google Cloud, OpenAI) порождает вопросы суверенитета: даже при хранении данных в Канаде к ним могут получить доступ по американскому закону CLOUD Act.
Существующие нормы и реакция правительства
В январе 2025 года в Онтарио вступил в силу закон «Об укреплении цифровой безопасности и доверия» (Enhancing Digital Security and Trust Act), дающий провинции полномочия регулировать использование ИИ в публичном секторе и запрещать высокорисковые приложения. Провинциальная служба также приняла собственную Рамочную директиву по ИИ, требующую, чтобы системы были безопасными, прозрачными и недискриминационными.
Тем не менее аудитор отметила, что принятые принципы не всегда соблюдаются.
Критика и рекомендации
Том Ракочевич (Tom Rakocevic), критик NDP по вопросам публичных и бизнес-услуг в Онтарио, заявил, что ИИ может быть полезным только при строгом контроле. По его словам, правительство серьёзно относится к защите собственной информации, но не уделяет должного внимания данным граждан, что подвергает их риску.
Доклад также указывает, что стратегия провинции по ИИ не рассматривает конкретные планы действий, запрещённые области применения и экологические последствия.
Министерство приняло все рекомендации аудитора, включая обязательное обучение сотрудников и блокировку небезопасных ИИ-сайтов.
12 мая 2026 года
Автор: Абдул Матин Сарфраз
