Чернобыль покажется шуткой? Самый страшный прогноз оказался ещё и самым странным. Как отметил эксперт ИИ Роман Душкин, на соседней территории стоят четыре атомные электростанции, идут боевые действия. И не надо быть дураком, чтобы предсказать, что может случиться. "Сейчас дроны начинают управляться нейросетевыми инструментами, агентами. Потом искусственно свяжут одно с другим и опять скажут: "Какой Хинтон прозорливый был, он оказался прав", - сказал эксперт.
Один из главных мировых экспертов в области искусственного интеллекта, лауреат Нобелевской премии Джеффри Хинтон предупредил о крупном инцидент с использованием ИИ в конце 2026 года или в 2027 году. Его последствия могут оказаться серьёзнее, чем авария на Чернобыльской АЭС, пишет издание Hi-Tech Mail со ссылкой на The Guardian.
Скриншот: rbc.ru
В качестве примера Хинтон привёл атаку с использованием ИИ на энергосистему, которая способна вызвать масштабные отключения света или сбои, которые парализуют финансовую систему на неделю.
По мнению учёного, возможно, руководителям крупнейших ИИ-компаний нужно думать не о прибыли, а о безопасности в первую очередь. Он призвал ввести обязательное независимое тестирование передовых моделей до их выпуска.
Пока ещё человечеству удаётся сохранять контроль над ситуацией. Но в конце сентября основатель компании Microsoft Билл Гейтс заявил, что использование ИИ злоумышленниками может обернуться гибелью миллиарда человек. Поэтому он призвал в интервью NBC News власти США установить обязательный контроль за развитием технологии.
Чернобыль покажется шуткой?
Анализируя ситуацию в беседе с Царьградом, эксперт по искусственному интеллекту Роман Душкин отметил, что слышать подобные заявления от человека, который сам же "открыл ворота в ад", стоя у истоков глубокого обучения ИИ, - просто смешно. Как и то, что не стоило создавать нейросети.
Хинтон - тот, кто в конце 1980-х придумал определённые подходы к глубокому обучению. Не он стоял у основ, а наши учёные Колмогоров и Арнольд. Сейчас он на голубом глазу заявляет: ворота, портал в ад открывать не нужно было. На мой взгляд, это совсем не портал в ад. И то, что он, как Кассандра, предрекает бедствия, выглядит смешно,
