Несподіване звільнення засновника і генерального директора компанії OpenAI Сема Альтмана 17 листопада викликало справжній шок у технологічній спільноті. Здавалося, біля керма процвітаючого стартапу, що посідає провідні позиції у сфері розроблення штучного інтелекту, стоїть успішний засновник, який користується загальною любов'ю. Однак рада директорів компанії вирішила інакше.
Попередження про небезпечне відкриття
За даними агентства Reuters, причиною такого радикального рішення міг послужити лист кількох співробітників-дослідників OpenAI, адресований раді директорів напередодні звільнення Альтмана. У ньому йшлося про потужний прорив у технологіях штучного інтелекту, здатний, на думку авторів, загрожувати самому людству.
Йдеться про розробку під назвою Q*. За інформацією джерел агентства, ця модель штучного інтелекту вже зараз здатна розв'язувати математичні задачі, хоча поки що й на рівні початкової школи. Однак сам цей факт викликав неабиякий оптимізм у розробників щодо майбутніх перспектив Q*.
Чому це небезпечно?
Річ у тім, що здатність до математики вважається передовим рубежем у розвитку технологій генеративного ШІ, тобто систем, здатних до самонавчання і породження власного контенту. Якщо ШІ зможе досягти успіхів у цій царині, він отримає можливості мислити і міркувати подібно до людини. А це вже загрожує потенційними загрозами.
На відміну від звичайних алгоритмів, обмежених закладеною в них програмою, системи генеративного ШІ можуть розвиватися, узагальнювати отримані знання і навіть формувати власні інтереси незалежно від людини. І якщо ці інтереси вступлять у протиріччя з інтересами людей, наслідки можуть бути катастрофічними.
Саме на ці потенційні загрози і вказали автори скандального листа раді директорів OpenAI. Можливо, побоювання виявилися настільки серйозними, що й призвели до такого жорсткого рішення про відсторонення Альтмана від керівництва компанією. Хоча згодом його і повернули назад на посаду гендиректора.
Проте цей інцидент ще раз показав, наскільки серйозну увагу у сфері розробки передових технологій штучного інтелекту слід приділяти питанням етики та безпеки. І якою тонкою в цьому разі може виявитися грань між геніальним науковим відкриттям і потенційною загрозою для всього людства.
