Google снял запрет на разработку военных технологий: что это значит? — разбор Рыбаря

На днях корпорация Google внесла важное изменение в свои принципы разработки искусственного интеллекта (ИИ). Из документа исчезла секция приложения, которые мы не будем разрабатывать. В частности, речь шла о запрете на создание технологий, способных причинять вред, включая оружие.

Команда Рыбаря весь прошлый год рассказывала о том, что на т.н. Украине и в Секторе Газа испытывают военные технологии на основе ИИ. А летом 2024 года в крупнейших технологических компаниях США произошли перестановки, которые заложили основу для сегодняшних решений.

Если посмотреть шире, то заявление Google (и, видимо, вскоре аналогичные решения будут в других компаниях) звено в цепи событий:

• В июне 2024 года в OpenAI началась смена управленческой стратегии. Тогдашний совет директоров, не устраивавший ключевых игроков, был отправлен в отставку.

• Тогда же в совет директоров OpenAI вошёл бывший директор АНБ США и экс-глава Киберкомандования американской армии Пол Накасоне. Его усилия будут сконцентрированы на технологиях анализа запросов пользователей и прикладном военно-разведывательном применении ChatGPT.

• Теперь Google устраняет последние формальные ограничения на военное применение своих технологий.

Что дальше?

Контроль военных и разведслужб за технологической индустрией стран Запада сильно ужесточается. Разрабатываемые системы ИИ будут использоваться в кибервойнах, слежке, подавлении инакомыслия и ведении реальных боевых действий.

Главный риск: со временем технологии выйдут за пределы национальной безопасности и начнут использоваться для социального рейтинга, фильтрации информации и контроля за населением.

Мы стоим на пороге эры, когда решения, принятые искусственным интеллектом, будут напрямую влиять на жизнь и смерть не только в регионах-полигонах (что уже успешно апробировали проект Lavender и Белый Аист), но и во всем мире.

И да, к этому готовили почву еще задолго до прихода Трампа. Это новая гонка вооружений, в которой США уже участвуют и поэтому развитие ИИ, и реагирование на подобные угрозы должно и для России стать национальным приоритетом.