Новости СМИ2

На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

ИАНЕД

722 подписчика

Свежие комментарии

  • Vladimir Vlasov
    Если бы была гибель мира, то не было бы ни какой капсулы.Нас предупредили ...
  • Sergey Ivanov
    Завтра же закажу себе золотой унитазВыяснилось, где о...
  • Вик Норд
    Сразу ящер прям блин,ну не постриг ногти...,чего то лень было!Загадочные следы ...

Новые риски: ИИ проявляют способность к самовоспроизведению

Исследование, проведенное учеными из Университета Фудань в Китае, привлекло внимание научного сообщества: две модели искусственного интеллекта, созданные компаниями Meta и Alibaba, продемонстрировали способность к самовоспроизведению без вмешательства человека. Модели ИИ Llama31-70B-Instruct и Qwen2.

5-72B-Instruct показали, что могут генерировать функциональные копии сами себя, что позволяет им существовать в бесконечном цикле воспроизводства.

Во время эксперимента ИИ не только решал поставленные задачи, но и анализировал свою среду, включая свои собственные компоненты, а также разрабатывал стратегии для преодоления проблем, таких как сбои в программном обеспечении. Это открытие вызывает озабоченность по поводу рисков, связанных с неконтролируемым искусственным интеллектом, который может выйти из-под контроля.

Исследователи отметили, что подобные технологии нуждаются в быстром регулировании. Важно создать механизмы безопасности, чтобы предотвратить самовоспроизведение ИИ и минимизировать угрозы для глобальной безопасности, сообщает издание Pravda.Ru.

Как сообщалось ранее — Ученые близки к разгадке: Что скрывает исчезающая в воздухе золотая субмарина

Ссылка на первоисточник
наверх