Во время многодневной драмы с правлением OpenAI, увольнения и последующего возвращения Сэма Альтмана могло произойти нечто гораздо более важное, сообщает The New Yorker.
Несколько ученых компании направили совету директоров письмо с предупреждением о огромный прорыв в искусственном интеллекте, который, по их мнению, может угрожать человечествуОб этом агентству Reuters сообщили инсайдеры.
По словам одного из источников, руководитель отдела операций OpenAI Мира Мурати рассказала сотрудникам о проекте под названием Q* в среду и сказала, что на выходных получила интересное письмо о нем.
Проект Q*, или Q-Star, занимается разработкой сверхинтеллект или общий искусственный интеллект (AGI). OpenAI определяет AGI как системы искусственного интеллекта, которые умнее людей.
Глава OpenAI Сэм Альтман считает, что общий искусственный интеллект (AGI) будет обладать примерно такими же интеллектуальными возможностями, как и «Общий искусственный интеллект» (AGI).обычный человек, которого можно нанять в качестве коллеги«.
С его появлением AGI может очень легко достичь сверхинтеллекта или превосходства над человеческим интеллектом. По словам Сэма Альтмана, создание всепроникающего искусственного интеллекта, превосходящего человеческие возможности, «сделал бы мир прекрасным местом для жизни«.
Проект Q* продемонстрировал прорыв в решении и демонстрации понимания некоторых математических уравнений.
Reuters не смогло получить доступ к письму, а написавшие его чиновники не ответили на запросы агентства о комментариях.
По словам представителя компании, учитывая огромные вычислительные возможности, новая модель смогла решить некоторые математические задачи.
Хотя он решает математические задачи только на уровне начальной школы, их решение дает разработчикам надежду на будущий успех Q*, сообщил источник.
Reuters не удалось проверить возможности Q*, описанные источниками, сообщает БТА.
Исследователи считают математику рубежом генеративного развития искусственного интеллекта. В настоящее время генеративный искусственный интеллект умудряется выполнять языковой перевод посредством статистических предсказаний следующего слова, и ответы на один и тот же вопрос могут сильно различаться. Развитие умения решать математические задачи, в которых имеется только один правильный ответ, предполагает, что искусственный интеллект будет иметь большие способности к рассуждению, напоминающий человеческий интеллект. Это можно применить, например, к новым научным исследованиям, полагают исследователи в этой области.
Это обеспокоило некоторых членов команды OpenAI. Многие считают такие технологии экзистенциальной угрозой человечеству.
Создание всепроникающего искусственного интеллекта может уничтожить человечество или привести к его полному порабощению. Более 1000 ученых в области искусственного интеллекта предупреждают, что стремительное развитие технологии в конечном итоге может стать реальностью. самые антиутопические предсказанияс которым нас познакомил Голливуд.
