Компания OpenAI, создатель ChatGPT, предпринимает шаги для обеспечения безопасности искусственного интеллекта! Как они объявили в среду, Компания планирует вложить значительные ресурсы и создать новую исследовательскую группу. которая будет отвечать за обеспечение безопасности своего ИИ для людей.
Но это еще не все! Компания OpenAI даже предполагает, что в будущем искусственный интеллект будет отслеживать собственное поведение.Цель этой инициативы — предотвратить выход сверхразума из-под контроля и причинение вреда человечеству.
OpenAI вкладывает больше ресурсов в предотвращение превращения ChatGPT в «нечестную» платформу.
В своем блоге Илья Суцкевер и Ян Лейке, соучредитель и руководитель отдела согласования в OpenAI соответственно, Они выразили обеспокоенность по поводу огромной мощи сверхразума..
Они предупреждают, что эта власть может привести к лишению человечества власти или даже к его вымиранию. Хотя они и признают, что в настоящее время у них нет решения для управления потенциально сверхинтеллектуальным искусственным интеллектом. И чтобы предотвратить нечестное поведение, они полны решимости противостоять этому вызову.
Авторы блога предсказывают, что сверхинтеллектуальные системы искусственного интеллекта, превосходящие человеческие способности, могут появиться уже в этом десятилетии. Понимая, что существующие методы недостаточны для управления этой новой формой интеллекта, OpenAI сосредотачивает внимание на том, что известно как «Расследование выравнивания». Эта область исследований сосредоточена на обеспечении того, чтобы искусственный интеллект оставался полезным для человека, и требует значительного прогресса.
API GPT-4 теперь доступен всем платящим клиентам OpenAI API. API GPT-3.5 Turbo, DALL·E и Whisper также стали общедоступными, и мы объявляем о плане прекращения поддержки некоторых наших старых моделей, которые будут выведены из эксплуатации в начале 2024 года: https://t.co/H11w4IalNZ
- OpenAI (@OpenAI) Июль 6, 2023
Для решения этой проблемы компания OpenAI предприняла смелые шаги. Компания, при поддержке Microsoftвыделил 20% своих вычислительных мощностей в течение следующих четырех лет для решения этой проблемы.
Кроме того, они создают команду, занимающуюся именно этим, которая называется командой Superalignment. Главная цель этой команды — разработка искусственного интеллекта, способного к выравниванию на уровне человека. а затем расширить его возможности, используя большой объем вычислительной мощности.
Но как OpenAI намерена предотвратить нечестность ИИ в будущем? Компания разработала стратегический подход. Они планируют обучать системы искусственного интеллекта, используя обратную связь от людей.Это позволит искусственному интеллекту учиться на основе наших знаний и ценностей.
Далее системы искусственного интеллекта будут обучены оказывать помощь в оценке, проводимой человеком, что позволит им сотрудничать с нами в принятии решений. Наконец, OpenAI стремится обучить системы искусственного интеллекта самостоятельно проводить исследования выравнивания.отслеживая и корректируя собственное поведение.
Хотя эта инициатива вызвала энтузиазм и надежду, некоторые критики... как защитник безопасности ИИКоннор Лихи, поднимите важные вопросы.
Лихи утверждает, что план OpenAI ошибочен, поскольку Искусственный интеллект, способный вывести человека из-под контроля, может привести к хаосу. прежде чем его можно будет заставить решить проблемы безопасности ИИ. Он утверждает, что решение проблемы согласования имеет решающее значение перед развитием интеллекта человеческого уровня.
Сенсационность, скрывающаяся за утверждением об «опасности ИИ для человечества».
Потенциальные опасности ИИ волнуют как исследователей в этой области, так и широкую общественность. В апреле... Группа лидеров и экспертов из индустрии искусственного интеллекта подписала открытое письмо с просьбой о шестимесячной паузе. в разработке систем, более мощных, чем GPT-4 от OpenAI, из-за потенциальных рисков для общества.
Кроме того, опрос Reuters/Ipsos, проведенный в мае, показал, что более двух третей американцев обеспокоены потенциальными негативными последствиями искусственного интеллекта, и 61% считают, что это может угрожать цивилизации..
Однако важно критически анализировать утверждения о том, что искусственный интеллект (ИИ) представляет собой непосредственную угрозу человечеству. Хотя верно, что сверхинтеллект порождает этические проблемы и вопросы, Утверждение о том, что искусственный интеллект приведет к лишению человечества власти или даже к его вымиранию, является преувеличением..
Много Эти утверждения были преувеличены сенсационными заявлениями. от некоторых средств массовой информации, которые стремятся создавать броские заголовки и сеять страх среди населения.
Важно понимать, что искусственный интеллект на данный момент является продуктом человеческого творчества и предназначен для выполнения конкретных задач. Идея создания искусственного интеллекта с автономным сверхразумом — это скорее футуристическая спекуляция, чем непосредственная реальность..
Кроме того, важно подчеркнуть, что большинство достижений в области ИИ сосредоточены на конкретных приложениях и не при создании систем общего сверхразума.
Вместо того чтобы сосредотачиваться на антиутопических и панических сценариях, Более конструктивным подходом к развитию ИИ является сбалансированный и прагматичный подход.Исследователи и такие организации, как OpenAI, предпринимают активные шаги для обеспечения безопасности и контроля над искусственным интеллектом.
Исследования по согласованию ИИ с человеческими ценностями — один из примеров этого, поскольку они направлены на обеспечение того, чтобы системы ИИ оставались полезными и соответствовали человеческим ценностям. Важно отделять сенсации от реальности и способствовать информированному диалогу. и на основе данных о будущем ИИ и его влиянии на общество.
