Международная группа ученых заявила, что современные методы оценки сознания искусственного интеллекта могут быть ошибочными. Исследователи считают, что популярные тесты не отличают подлинный субъективный опыт от обычной обработки информации, что может повлиять на будущие решения в области этики ИИ, биоэтики и прав роботов.
Международная команда исследователей под руководством Института базовых наук (IBS) подвергла сомнению современные способы оценки сознания ИИ и других "бесчеловечных объектов".
Ученые заявили, что популярные нейробиологические тесты часто путают обычную обработку информации с субъективным опытом.
Об этом сообщает РБК-Украина со ссылкой на анализ, опубликованный в журнале Neuron.
Стремительное развитие нейросетей заставило исследователей и общество вернуться к вопросам, ранее считавшимся сугубо философскими.
Среди них:
- может ли ИИ иметь сознание;
- способны животные или органоиды мозга иметь субъективный опыт;
- могут ли человеческие эмбрионы осознавать окружающий мир.
Команда ученых из IBS, Монреальского и Нью-Йоркского университетов задала другой вопрос. Они сомневаются, что современные технологии вообще способны это измерить.
"Большинство современных экспериментов фиксируют лишь общую способность системы анализировать данные, а не само сознание", – пояснил директор Центра нейровизуализационных исследований Хакван Лау.
По его словам, популярные методы, среди которых проверка зрительной маскировки или сенсорных порогов, влияют не только на сознательный опыт. Они также изменяют общую когнитивную способность мозга или ИИ.
"По этой причине разработчики бессознательно приписывают машинам человеческие качества", - добавил ученый.
Исследователи напомнили, что подобная ситуация уже возникала в психологии в конце XIX и начале XX века.
Тогда громкие, но слабо подтвержденные заявления о природе сознания вызвали жесткую критику. В результате это привело к развитию бихевиоризма и остановило исследование сознания на десятилетия.
Чтобы избежать повторения ошибок, ученые предложили изучать особые нейропсихологические состояния. Среди них "слепое зрение" или пространственное игнорирование.
В этих случаях человек реагирует на раздражители, но не осознает их. Это свидетельствует о том, что обработка информации и субъективное восприятие являются разными процессами.
Авторы исследования подчеркнули, что создание точных методов оценки сознания имеет большое значение для будущего.
По их мнению, от таких выводов зависят:
- правила защиты животных;
- этические нормы в ветеринарии;
- регулировка искусственного интеллекта;
- вопросы прав роботов;
- биоэтика и медицинские исследования.
"Если научные заявления о сознании собираются влиять на этику ИИ или биоэтику, то научный фундамент этих заявлений должен быть максимально строгим", - подчеркнули авторы работы.
Ученые надеются, что их исследование поможет сохранить ясность в изучении искусственного разума.
Напомним, в соцсети Threads стремительно набирает популярность трогательная инициатива для выпускников из Никополя. Украинские звезды и блоггеры массово приобщаются к флешмобу, чтобы поддержать школьников из прифронтового города.
Подписывайся на нас в Facebook , Youtube , Instagram и TikTok !