Czy kiedykolwiek będziemy w stanie stwierdzić, że sztuczna inteligencja jest świadoma? Zdaniem dr. Toma McClellanda, filozofa z Uniwersytetu Cambridge, odpowiedź na to pytanie brzmi: prawdopodobnie nigdy. W opublikowanym na łamach czasopisma Mind & Language artykule naukowiec przekonuje, że nasza wiedza o samej świadomości jest zbyt ograniczona, by stworzyć wiarygodny test pozwalający ocenić, czy systemy AI ją posiadają – teraz lub w przyszłości.

Wraz z rozwojem zaawansowanych systemów sztucznej inteligencji coraz częściej pojawiają się pytania o ich potencjalne prawa i status moralny. McClelland podkreśla jednak, że sama świadomość nie jest wystarczającym kryterium etycznym. Kluczowe znaczenie ma zdolność do odczuwania, czyli tzw. sentiencja – możliwość przeżywania stanów pozytywnych i negatywnych, takich jak cierpienie czy przyjemność.

W debacie nad sztuczną świadomością ścierają się dwa główne stanowiska. Zwolennicy pierwszego uważają, że jeśli AI odtworzy funkcjonalną „architekturę” świadomości, stanie się świadoma niezależnie od tego, czy działa na biologicznym mózgu, czy na krzemowych układach. Drugi obóz twierdzi, że świadomość jest nierozerwalnie związana z procesami biologicznymi i w przypadku maszyn możemy mówić co najwyżej o symulacji.

McClelland wskazuje, że żadne z tych stanowisk nie ma dziś solidnych podstaw empirycznych. Nie wiemy ani tego, czy świadomość jest zjawiskiem czysto obliczeniowym, ani czy jest wyłącznie biologiczna. W tej sytuacji – jego zdaniem – jedyną racjonalną postawą jest agnostycyzm. Filozof ostrzega również przed nadużyciami. Luka w wiedzy dotyczącej świadomości może być wykorzystywana przez branżę technologiczną do budowania narracji o „kolejnym poziomie inteligencji AI” i podsycania entuzjazmu wokół rzekomo świadomych maszyn.

McClelland zwraca też uwagę na etyczny paradoks: podczas gdy coraz więcej zasobów przeznacza się na rozważania nad hipotetyczną świadomością AI, istnieją realne przesłanki wskazujące, że niektóre zwierzęta – jak choćby skorupiaki – mogą odczuwać cierpienie, a mimo to są masowo zabijane. Jego zdaniem zarówno intuicja, jak i obecne metody naukowe zawodzą w przypadku oceny sztucznej inteligencji. Intuicja ewoluowała w świecie wyłącznie biologicznych istot, a dane empiryczne są zbyt skąpe, by rozstrzygać tak fundamentalne kwestie.