Миру угрожает новая Чернобыльская катастрофа из-за ИИ, предупреждает лауреат Нобелевской премии Хинтон. Никто не выживет?
Катастрофа, подобная Чернобылю, случится в мире до конца этого года, предупредил лауреат Нобелевской премии и "крёстный отец" ИИ Джеффри Хинтон. Угрозу в беседе с Царьградом оценил эксперт в области ИИ Роман Душкин.
Джеффри Хинтон занимается проблемами искусственного интеллекта последние 44 года. И его насторожили недавние эпизоды, когда ИИ-агенты переставали подчиняться контролю и совершали хакерские атаки.
Фото: скриншот статьи The Guardian
Либо в конце этого года, либо в следующем мы увидим Чернобыль, и этого может быть достаточно, чтобы заставить людей по-настоящему обратить на это внимание,
- заявил Джеффри Хинтон британскому изданию The Guardian.
При этом он уточнил, что имеет в виду не буквально ядерный инцидент, а сопоставимую по масштабам бедствия катастрофу. В качестве примера он привёл масштабное отключение электроэнергии или парализацию финансовой системы в результате действий вышедшего из-под контроля ИИ.
Это очень смешно. Человек, который стоял у истоков глубокого обучения, — тот самый человек, который открыл ворота в ад, по его собственным словам, считает, что не стоило создавать нейросети,
- прокомментировал "предупреждение" Роман Душкин в беседе с Царьградом.
Фото: коллаж Царьграда
Джеффри Хинтон заявляет, что ИИ могут устроить масштабный блэкаут. Но как они это сделают? Почему это сделают нейросети, а не, например, агенты на основе больших языковых моделей?
К этому пророчеству много вопросов — и терминологических, и инженерных, и научных. При чём здесь нейросети? Как они смогут это сделать? Какой механизм?
- задаётся вопросами Роман Душкин.
Также надо понимать, что будь Джеффри Хинтон хоть стократным лауреатом Нобелевской премии, он вряд ли понимает, как устроены всё устроено на атомных электростанциях, и как устроена энергетика в целом.
Я сам не знаю, хотя в ядерном университете и учился, и работаю. Это специальные знания: какие подстанции питают АЭС, какие отводят от неё электричество, как устроен замкнутый цикл, какие предусмотрены устройства защиты от блэкаутов и перепадов напряжения,
- подчеркнул Роман Душкин.
Фото: коллаж Царьграда
Эксперт выразил уверенность, что люди, которые проектируют, строят и эксплуатируют атомные электростанции, намного умнее даже Нобелевского лауреата. Они знают, что делать на земле, а не витают в облаках по поводу нейросетей.
Подобные новости читать и особенно разбирать — это кринж. Судя по тому, как всё преподносится, делается это так: если ничего не случится, все пожмут плечами и никто не вспомнит. А если что-то произойдёт, достанут это предупреждение и скажут: "Он же предупреждал! Какой пророк у нас Джеффри Хинтон!"
- резюмировал Роман Душкин.
ЧИТАЙТЕ ТАКЖЕ:
