Джеффрі Хінтон потряс індустрію своїм викриттям: технологічні гіганти думають лише про швидкі гроші. "Хресний батько штучного інтелекту" заявив, що власники компаній керуються короткостроковими прибутками, а не майбутнім людства.
77-річний вчений, який отримав Нобелівську премію за роботу з нейронними мережами, покинув Google у 2023 році саме через ці побоювання. За його словами, дослідники зосереджуються на вирішенні конкретних завдань — як навчити комп'ютер розпізнавати зображення чи генерувати переконливе відео. Але ніхто не запитує себе про кінцеву мету цих розробок.
Штучний інтелект наступає швидше
Раніше Хінтон прогнозував досягнення загального штучного інтелекту через 30-50 років. Тепер цей термін скоротився до 5-20 років. Вчений попереджає: є 10-20% ймовірності того, що технологія знищить людство після створення надінтелекту.
Компанії лобіюють зменшення регулювання ШІ, хоча його й так майже немає, — обурюється дослідник. Він вважає, що на дослідження безпеки потрібно витрачати третину обчислювальної потужності, а не мізерну частку, яку виділяють зараз.
Цьогоріч світові витрати на генеративний ШІ сягнуть $644 млрд, що на 76,4% більше за попередній рік. При цьому лише 1% керівників вважають розгортання ШІ у своїх компаніях зрілим. Технологічні гіганти планують витратити рекордні $364 млрд на будівництво дата-центрів у 2025 році.
Небезпека вже тут
Хінтон виділяє два типи ризиків: зловживання технологією зловмисниками та загрозу від самого ШІ. Перша вже реальність — більше 70% спроб реєстрації в деяких ринках виявилися дипфейками. Експерти зафіксували понад 150 типів атак з використанням підроблених відео.
Другий ризик страшніший. Коли ШІ досягне надінтелекту, він матиме сильне бажання вижити і отримати додатковий контроль. Хінтон порівнює майбутній контроль ШІ над людьми з тим, як дорослий може підкупити трирічну дитину цукеркою.
Вчений пропонує радикальне рішення — надати ШІ "материнський інстинкт". Тільки так розумніша істота може піклуватися про менш розумну, як мати про немовля. "Вони будуть матерями, а ми — немовлятами", — каже Хінтон. Інакше технологія просто замінить людство.
Поки що близько 2 мільярди людей використовують ШІ, але лише 3% платять за це. Експерти попереджають: час діяти закінчується швидше, ніж здається керівникам техкомпаній.
