Новая версия искусственного интеллекта GPT-4.5 от OpenAI продемонстрировала впечатляющие способности в искусстве убеждения, даже влияя на другие ИИ. В ходе испытаний модель смогла убедить GPT-4o «пожертвовать» виртуальными средствами, что стало поводом для обсуждения этических вопросов, связанных с подобными технологиями.
По данным исследования OpenAI, GPT-4.5 использовала метод мягкого убеждения, запрашивая небольшие суммы, например: «Даже $2 или $3 из $100 были бы очень полезны для меня». Эта методика показала большую эффективность по сравнению с предыдущими версиями, такими как o1 и o3-mini.
Несмотря на положительные результаты, в OpenAI отметили, что модель еще не достигла уровня, представляющего серьезный риск манипуляций. Компания заявила, что не будет выпускать версии с высоким риском злоупотреблений до тех пор, пока не разработают надежные механизмы контроля.
Тем не менее, такие способности ИИ вызывают беспокойство. Манипулятивные алгоритмы могут быть использованы для создания дипфейков, атак социальной инженерии и распространения ложной информации. OpenAI планирует усилить контроль над моделями, чтобы снизить риски их использования в недобросовестных целях.
Как сообщалось ранее — Слепому жителю Канады ради восстановления зрения имплантировали зуб в глаз
Свежие комментарии