Неожиданное увольнение основателя и генерального директора компании OpenAI Сэма Альтмана 17 ноября вызвало настоящий шок в технологическом сообществе. Казалось, у руля процветающего стартапа, занимающего лидирующие позиции в сфере разработки искусственного интеллекта, стоит успешный и пользующийся всеобщей любовью основатель. Однако совет директоров компании решил иначе.
Предупреждение об опасном открытии
По данным агентства Reuters, причиной столь радикального решения могло послужить письмо нескольких сотрудников-исследователей OpenAI, адресованное совету директоров накануне увольнения Альтмана. В нем речь шла о мощном прорыве в технологиях искусственного интеллекта, способном, по мнению авторов, угрожать самому человечеству.
Речь идет о разработке под названием Q*. По информации источников агентства, эта модель искусственного интеллекта уже сейчас способна решать математические задачи, хотя пока и на уровне начальной школы. Однако сам этот факт вызвал большой оптимизм у разработчиков относительно будущих перспектив Q*.
Почему это опасно?
Дело в том, что способность к математике считается передовым рубежом в развитии технологий генеративного ИИ, то есть систем, способных к самообучению и порождению собственного контента. Если ИИ сможет достичь успехов в этой области, он получит возможности мыслить и рассуждать подобно человеку. А это уже чревато потенциальными угрозами.
В отличие от обычных алгоритмов, ограниченных заложенной в них программой, системы генеративного ИИ могут развиваться, обобщать полученные знания и даже формировать собственные интересы вне зависимости от человека. И если эти интересы вступят в противоречие с интересами людей, последствия могут быть катастрофическими.
Именно на эти потенциальные угрозы и указали авторы скандального письма совету директоров OpenAI. Возможно, опасения оказались настолько серьезными, что и привели к столь жесткому решению об отстранении Альтмана от руководства компанией. Хотя впоследствии его и вернули обратно на пост гендиректора.
Тем не менее, этот инцидент еще раз показал, насколько серьезное внимание в сфере разработки передовых технологий искусственного интеллекта следует уделять вопросам этики и безопасности. И как тонка в данном случае может оказаться грань между гениальным научным открытием и потенциальной угрозой для всего человечества.
