Джеффри Хинтон потряс индустрию своим разоблачением: технологические гиганты думают только о быстрых деньгах. «Крестный отец искусственного интеллекта» заявил, что владельцы компаний руководствуются краткосрочной прибылью, а не будущим человечества.
77-летний ученый, получивший Нобелевскую премию за работу с нейронными сетями, покинул Google в 2023 году именно из-за этих опасений. По его словам, исследователи сосредотачиваются на решении конкретных задач — как научить компьютер распознавать изображения или генерировать убедительное видео. Но никто не задается вопросом о конечной цели этих разработок.
Искусственный интеллект наступает быстрее
Ранее Хинтон прогнозировал достижение общего искусственного интеллекта через 30-50 лет. Теперь этот срок сократился до 5-20 лет. Ученый предупреждает: есть 10-20% вероятности того, что технология уничтожит человечество после создания сверхинтеллекта.
Компании лоббируют уменьшение регулирования ИИ, хотя его и так почти нет, — возмущается исследователь. Он считает, что на исследования безопасности нужно тратить треть вычислительной мощности, а не мизерную долю, которую выделяют сейчас.
В этом году мировые расходы на генеративный ИИ достигнут $644 млрд, что на 76,4% больше, чем в предыдущем году. При этом только 1% руководителей считают развертывание ИИ в своих компаниях зрелым. Технологические гиганты планируют потратить рекордные $364 млрд на строительство дата-центров в 2025 году.
Опасность уже здесь
Хинтон выделяет два типа рисков: злоупотребление технологией злоумышленниками и угроза от самого ИИ. Первый уже реальность — более 70% попыток регистрации на некоторых рынках оказались дипфейками. Эксперты зафиксировали более 150 типов атак с использованием поддельных видео.
Второй риск более страшен. Когда ИИ достигнет сверхинтеллекта, у него будет сильное желание выжить и получить дополнительный контроль. Хинтон сравнивает будущий контроль ИИ над людьми с тем, как взрослый может подкупить трехлетнего ребенка конфетой.
Ученый предлагает радикальное решение — наделить ИИ «материнским инстинктом». Только так более умное существо может заботиться о менее умном, как мать о младенце. «Они будут матерями, а мы — младенцами», — говорит Хинтон. Иначе технология просто заменит человечество.
Пока что около 2 миллиардов человек используют ИИ, но только 3% платят за это. Эксперты предупреждают: время действовать заканчивается быстрее, чем кажется руководителям техкомпаний.
