Міжнародна група вчених заявила, що сучасні методи оцінки свідомості штучного інтелекту можуть бути помилковими. Дослідники вважають, що популярні тести не відрізняють справжній суб’єктивний досвід від звичайної обробки інформації, а це може вплинути на майбутні рішення у сфері етики ШІ, біоетики та прав роботів.
Міжнародна команда дослідників під керівництвом Інституту базових наук (IBS) поставила під сумнів сучасні способи оцінки свідомості ШІ та інших "нелюдських об'єктів".
Науковці заявили, що популярні нейробіологічні тести часто плутають звичайну обробку інформації із суб'єктивним досвідом.
Про це повідомляє РБК-Україна з посиланням на аналіз, опублікований у журналі Neuron.
Стрімкий розвиток нейромереж змусив дослідників і суспільство повернутися до питань, які раніше вважалися суто філософськими.
Серед них:
- чи може ШІ мати свідомість;
- чи здатні тварини або органоїди мозку мати суб'єктивний досвід;
- чи можуть людські ембріони усвідомлювати навколишній світ.
Команда вчених з IBS, Монреальського та Нью-Йоркського університетів поставила інше питання. Вони сумніваються, що сучасні технології взагалі здатні це виміряти.
"Більшість сучасних експериментів фіксують лише загальну здатність системи аналізувати дані, а не саму свідомість", - пояснив директор Центру нейровізуалізаційних досліджень Хакван Лау.
За його словами, популярні методи, серед яких перевірка зорового маскування або сенсорних порогів, впливають не лише на свідомий досвід. Вони також змінюють загальну когнітивну здатність мозку чи ШІ.
"Через це розробники несвідомо приписують машинам людські якості", - додав учений.
Дослідники нагадали, що подібна ситуація вже виникала у психології наприкінці XIX та на початку XX століття.
Тоді гучні, але слабко підтверджені заяви про природу свідомості викликали жорстку критику. У результаті це призвело до розвитку біхевіоризму та майже зупинило дослідження свідомості на десятиліття.
Щоб уникнути повторення помилок, науковці запропонували вивчати особливі нейропсихологічні стани. Серед них "сліпий зір" або просторове ігнорування.
У таких випадках людина реагує на подразники, але не усвідомлює їх. Це свідчить, що обробка інформації та суб'єктивне сприйняття є різними процесами.
Автори дослідження наголосили, що створення точних методів оцінки свідомості має велике значення для майбутнього.
На їхню думку, від таких висновків залежать:
- правила захисту тварин;
- етичні норми у ветеринарії;
- регулювання штучного інтелекту;
- питання прав роботів;
- біоетика та медичні дослідження.
"Якщо наукові заяви про свідомість збираються впливати на етику ШІ чи біоетику, то науковий фундамент цих заяв має бути максимально суворим", - наголосили автори роботи.
Вчені сподіваються, що їхнє дослідження допоможе зберегти чіткість у вивченні штучного розуму.
Нагадаємо, у соцмережі Threads стрімко набирає популярності зворушлива ініціатива для випускників із Нікополя. Українські зірки та блогери масово долучаються до флешмобу, щоб підтримати школярів із прифронтового міста.