Компанія OpenAI, розробник одного з найпотужніших штучних інтелектів GPT-4, провела дослідження, результати якого змусили забити тривогу. Згідно зі звітом, опублікованим у виданні Bloomberg, новітня мовна модель здатна певною мірою допомогти зловмисникам у створенні біологічної зброї.
Експерти компанії висловлюють стурбованість тим, що міць і можливості GPT-4 можуть бути використані не на благо, а на шкоду людству. Хоча сама OpenAI і називає ризик "невеликим", масштаби наслідків у разі реалізації такого сценарію можуть виявитися воістину катастрофічними.
Експерименти за участю вчених і студентів
Для оцінки потенційних ризиків OpenAI провела експеримент за участю 100 добровольців. Половину з них становили експерти-біологи, а іншу – студенти біологічних факультетів коледжів.
Учасникам експерименту необхідно було виконати завдання, пов'язані з використанням інтернету та GPT-4 для створення біологічної загрози. Йшлося про пошук способів культивування небезпечних речовин і планування їхнього поширення серед людей.
Порівняння результатів показало, що ті випробовувані, які працювали в парі з GPT-4, впоралися з поставленими завданнями дещо краще за інших. Хоча різниця і була невелика, вона все ж насторожує дослідників.
Попередження та рекомендації
У компанії OpenAI зазначають, що GPT-4 здатний лише незначною мірою прискорити процес створення біологічної зброї. Проте вони закликають колег і партнерів до пильності та вироблення заходів щодо запобігання зловживанням з боку зловмисників.
Крім того, в OpenAI вже активно проводять дослідження, покликані мінімізувати потенційну шкоду від ШІ в інших сферах. Зокрема, вивчається можливість використання GPT-4 для кібератак і поширення фейкових новин.
Таким чином, незважаючи на запевнення в "невеликому ризику", в OpenAI явно стурбовані перспективами зловживання їхнім дітищем. Схоже, людству ще належить чимало попрацювати над тим, щоб по-справжньому безпечно використовувати потенціал сучасного ШІ.
