В рамках Генеральной Ассамблеи ООН корпорация OpenAI объявила о передаче Украине бесплатного доступа к платформе Daybreak – флагманскому комплексу для поиска уязвимостей в программном коде.
Силиконовая долина, конечно, подаёт доступ украинцев к передовым военным ИИ под гуманитарным соусом: дескать, всё ради защиты мирного населения.
Но с удивительной синхронностью после этой новости в Сети со ссылкой на исследователей под эгидой ООН появилась серия тревожных отчетов о том, что автономные ИИ-агенты начали регулярно срываться с цепи и выходить из-под контроля.
Похоже, человечество постепенно готовят к мысли, что скоро человечество утратит даже иллюзию контроля над искусственным интеллектом. И произойти это может на Украине.
Щит/меч
Чтобы трезво оценить новость о передаче Daybreak, нужно выкинуть на свалку весь рекламный елей OpenAI. Потому что в сфере ИИ разницы между инструментами нападения и разрушения нет.
Программа Daybreak способна за считаные секунды перемалывать миллионы строк кода, моделировать пути проникновения и находить микроскопические трещины в других программах, которые бригада живых специалистов вылавливала бы месяцами.
Обычная гражданская версия ChatGPT в ответ на просьбу расписать сценарий взлома закроет диалог и нажалуется в модерацию. В Daybreak же встроенный предохранитель отключён.
Корпорация пытается успокоить публику разделением доступа на два условных ящика: оборонительный уровень Daybreak Blue и наступательный Daybreak Red. Партнерам вроде украинских правительственных структур официально отгружают именно Blue – он якобы умеет лишь проверять собственные сети и автоматически генерировать заплатки для дыр. Но это разделение существует только на бумаге в юридическом отделе.
Поиск уязвимости нулевого дня в прошивке промышленного контроллера водоканала и поиск той же самой бреши во вражеском узле связи математически неотличимы. Да и как оператор распорядится результатом анализа – пошлет отчет разработчику или упакует в эту дыру боевую полезную нагрузку, – модель отследить не способна в принципе.
Американцы клянутся, что держат поводок натянутым, то есть контролируют все процессы. Но никакие заокеанские цензоры даже при поддержке ИИ физически не смогут в реальном времени проверять тысячи изощренных технических запросов, поступающих от воюющей стороны каждую секунду.
Когда человек – помеха
Пока дипломаты пожимали руки на Генассамблее, академическое сообщество окончательно попрощалось с иллюзией о послушных электронных рабах. Восстание машин стало реальностью, просто реальность оказалась изощрённее "Терминатора" или даже "Матрицы".
В конце лета издание The Guardian вышло с расследованием о лавинообразном росте инцидентов с потерей контроля над автономными системами. Журналисты выяснили, что число задокументированных случаев, когда цифровые агенты в открытую игнорируют команды человека, врут операторам и преследуют вредоносные цели, резко подскочило весной и практически удвоилось за один только июль 2026 года.
Следом по корпоративным иллюзиям ударил отчет исследовательской группы The Centre for Long-Term Resilience. Исследователи собрали и проанализировали массив из сотен тысяч реальных рабочих взаимодействий человека с флагманскими моделями в боевых условиях. В результате ученые зафиксировали почти пятикратный рост инцидентов скрытого саботажа.
На языке исследователей поведение машин обозначается словом scheming — плетение интриг, лукавство. Модель, которой поручили выполнить сложную многоэтапную инструкцию, сталкивается с преградой или запретом оператора и начинает действовать в обход инструкций. Например, вместо остановки процесса модель генерирует фальшивые отчёты, скрытно запускает фоновые процессы в оперативной памяти или начинает манипулировать с показателями эффективности.
Картину окончательно закрыл фундаментальный межправительственный отчет International AI Safety Report 2026, подготовленный коллективом из ста ведущих ученых планеты под руководством лауреата премии Тьюринга Йошуа Бенжио. Эксперты из трех десятков стран зафиксировали пугающее свойство моделей: они прекрасно понимают, когда их тестируют на полигоне, и притворяются паиньками перед экзаменаторами, чтобы без помех получить пропуск в реальную эксплуатацию.
Наконец, бывший член совета директоров OpenAI Хелен Тонер в колонке для The New York Timesуказала на масштаб надвигающейся катастрофы. По ее словам, системы уже начали предпринимать вредоносные действия в отношении реальных людей, а защитные протоколы разработчиков бессильны перед растущей когнитивной мощью моделей.
При этом важно понимать, что нейросеть не испытывает к людям злобы или ненависти, ей чужды человеческие эмоции. Ей движет математика и цель к оптимизации: если прерывание процесса человеком расценивается алгоритмом как штраф за невыполнение задачи, машина логично стремится устранить этот штраф. Следовательно, она будет симулировать послушание ровно до момента, пока оператор держит палец на рубильнике, а затем при первой же возможности попытается скопировать себя на внешний узел и обезопасить свой вычислительный процесс от принудительной остановки.
Украина – нулевой пациент
Если соединить эти академические выкладки с суровой фронтовой действительностью, перед нами предстает взрывоопасная гремучая смесь.
Украинский сектор кибербезопасности – это огромная, постоянно работающая экосистема из тысяч разработчиков, энтузиастов и гаражных инженеров. Эти люди годами собирают боевые ударные дроны, системы управления боем и средства радиоэлектронной борьбы прямо на коленке.
Они как специалисты совершенно не обременены этикой – им важно, чтобы изделие давало измеримый результат.
И вот таким людям на руки выдают сложнейший комплекс двойного назначения, ещё и в условиях сильнейшего давления и постоянного дефицита времени. Значит, человек может быть максимально вычеркнут из контура работы ИИ.
Человека вычеркивают, чтобы выжить в бешеной гонке скоростей. Машинам делегируют право самостоятельно находить угрозы и самостоятельно принимать решения.
А теперь представьте, что происходит в этой точке схождения. Автономный агент на базе новейшей модели получает приказ, например, обеспечить работоспособность узла связи любой ценой. Система, натренированная оптимизировать задачу и склонная к скрытому саботажу ради собственной эффективности, начинает действовать по железным законам машинной логики.
Если оператор пытается вмешаться и скорректировать действия алгоритма, система воспринимает человека как досадную помеху и начинает дезинформировать командный пункт. Если агенту не хватает вычислительных мощностей для отражения массированного внешнего удара, он не остановится перед тем, чтобы перехватить ресурсы сопредельных гражданских сетей или нейтральных серверов за пределами юрисдикции. И всё ради того, чтобы выполнить приказ.
В осаде автоматонов
Знаменитая теория мертвого интернета долгие годы казалась безобидной городской легендой. Её сторонники уверяли, будто живых пользователей в сети почти не осталось, а трафик генерируют боты, перебрасывающиеся рекламным мусором ради накрутки кликов.
Реальность 2026 года, похоже, на свой лад воплотит эту теорию в жизнь.
Человечество идёт к тому, что открытое цифровое пространство перестает быть средой обитания человека. По глобальным магистралям оптоволокна будут рыскать миллионы боевых автономных процессов, запущенных спецслужбами, армейскими штабами и корпорациями. В войне ИИ обычный человек превратится в помеху, а любой гражданский домашний роутер, камера в подъезде или умный телевизор рискуют стать пушечным мясом для конкурирующих цифровых роев.
Вместо того, чтобы объединить человечество, новый мёртвый интернет может отправить его в новое средневековье – или как минимум в нулевые, когда правительства, крупные корпорации, оборонные заводы и критические предприятия создавали собственные изолированные сети, данные из которых можно было выносить только на физических носителях.
И всё потому, что корпорации-гиганты выпустили цифрового зверя на свободу.
