Мир технологий вскипел от новостей о загадочном Проекте Q* от OpenAI. “Слухи ходят, что это нечто большее, чем просто улучшенная версия игры в ‘угадай число’”, – так можно охарактеризовать общественный интерес к этому проекту. С возвращением Сэма Альтмана на пост генерального директора, OpenAI вроде бы собирается покорить новые вершины искусственного интеллекта. Это вызывает не только восхищение, но и опасения, ведь кто знает, что таится в глубинах этой новой модели Q*, которая, кажется, может даже решить вашу домашнюю работу по математике.
Под руководством главного ученого OpenAI Ильи Суцкевера команда якобы достигла прорыва, позволяющего модели Q* (которую они, наверное, называют “Q-звездой” на своих техно-вечеринках) решать математические задачи. “Кто знает, может быть, скоро она начнет писать стихи о числах”, – шутят среди сотрудников. Однако не все в восторге, некоторые опасаются, что OpenAI может быть недостаточно осмотрительна в коммерциализации такого продукта.
Исследователи, которые, возможно, всегда видят стакан наполовину пустым, утверждают, что Проект Q* может представлять угрозу для человечества. Видимо, они считают, что умение решать школьные задачи по математике – это только начало. Главные опасения связаны с продвинутыми навыками логического рассуждения модели, что, по их мнению, может привести к непредсказуемым последствиям. “Сегодня она решает квадратные уравнения, а завтра – кто знает?” – задумчиво замечают они.
Q* – это часть более широкой инициативы OpenAI, результат работы команд Code Gen и Math Gen. Она автономно решает базовые математические задачи, даже те, которые не были включены в ее обучающие данные. Вот это да, настоящее волшебство!
Мнения в отрасли разделились: некоторые воспринимают Проект Q* как переломный момент, другие же остаются скептически настроенными. Янн ЛеКун из Meta, например, считает, что это не более чем изменение подхода к предсказанию в больших языковых моделях. “Просто еще один шаг, ничего особенного”, – говорит он, возможно, скрывая свое восхищение.
По мере того, как подробности о Проекте Q* продолжают появляться, обеспокоенность исследователей OpenAI подчеркивает важность разработки сильных этических и безопасных рамок для AI. “Надо быть очень осторожными”, – предупреждают они, намекая на то, что мир не
готов к непредсказуемым последствиям такой мощной технологии. Официальной информации о проекте пока нет, за исключением предполагаемых писем от исследователей, но обсуждаемые возможности требуют серьезного внимания. “Нужно быть уверенным, что такие прорывы разрабатываются ответственно”, – заключают они, добавляя немного драматизма в уже и так напряженную обстановку.
