Connect with us

Hi, what are you looking for?

Наука и технологии

Нейросети могут притворяться более бессмысленными для удобства пользователя

Нейросети могут притворяться более бессмысленными для удобства пользователя

Нейросети могут притворяться более бессмысленными для удобства пользователя

Специалисты хотели проверить, смогут ли нейросети скорректировать ответы, чтобы они соответствовали уровню развития детей от 1 года до 6 лет. Ученые провели 1296 испытаний GPT-3,5 Turbo и GPT-4. Они анализировали языковую сложность и точность ответов, связанных с ошибочными убеждениями. К примеру, ШИ-модели должны были ответить на такую ​​задачу. Персонаж помещает объект в определенное место и покидает комнату. Пока его нет, предмет передвигают. Нейросеть должна предсказать, где персонаж будет искать объект, когда вернется. Как критерии использовали длину ответа и несколько других параметров.

С увеличением возраста, который нужно моделировать, возрастала сложность языка, используемого ШИ-моделями. Это показал и чат-бот GPT-3,5 Turbo, и GPT-4. Работа ученых показала, что нейросети соображают особенности речевого развития и могут подстраиваться под тот либо другой уровень. По словам Анны Маркловой, одного из авторов исследования, при разработке искусственного сверхинтеллекта ученые должны быть осторожны. Не нужно требовать имитировать человеческий интеллект из-за его ограниченности. «Кроме того, это означает, что мы можем недооценивать их возможности в течение длительного периода, что нельзя назвать безопасной ситуацией», — цитирует Марклову PsyPost. Ученые будут продолжать исследовать языковые возможности ШИ-моделей. Одно из основных направлений – изучение нейросетей при моделировании когнитивного и лингвистического развития в более разнообразных задачах. Продолжение после рекламы