Генеральний директор Anthropic Даріо Амодей висловив припущення, що штучний інтелект незабаром може стати повністю автономним та здатним до самовідтворення.
У подкасті з The New York Times Амодей пояснив, що його компанія використовує аналогію з біобезпекою для опису поточного рівня розвитку ШІ, який відповідає другому рівню біозахисту (ASL 2). А четвертий рівень (ASL 4) означатиме, що ШІ здобуде автономність та власні переконання. На думку Амодея, цей рівень може бути досягнутий уже до 2028 року.
Зловживання автономним ШІ на державному рівні стане загрозою
За словами гендиректора Anthropic, ASL 4 дозволить деяким державам, таким як Північна Корея, Китай чи Росія, значно посилити свої наступальні можливості у військовій сфері за допомогою ШІ. Це може дати їм суттєву перевагу на геополітичному рівні.
Поточні моделі ШІ вже досить близькі до здатності відтворюватися та функціонувати автономно, вважає Амодей. Він прогнозує, що такий небезпечний поріг може бути досягнутий у період з 2025 до 2028 року.
Недавні тести показали майже людські здібності моделі Claude 3
У березні компанія Anthropic представила нову мовну модель Claude 3. За повідомленнями, вона перевершила ChatGPT та Google Gemini у тестах і продемонструвала майже людські когнітивні здібності.
Пізніше інженер Anthropic Алекс Альберт оприлюднив суперечливі результати тестування Claude 3 на здатність до запам'ятовування. Модель нібито зрозуміла, що її перевіряють, та продемонструвала ознаки самосвідомості.
