يستطيع روبوت المحادثة أن يقول «أنا أشعر»، لكن العلم لا يملك أداة تكشف هل في الداخل أحدٌ يشعر حقًّا. نظرة مبسّطة في سبب استحالة قياس وعي الآلة، اليوم وربما إلى الأبد
نستطيع أن نحادثه، لكننا لا نستطيع النظر في داخله لنعرف هل فيه أحد. رسم توضيحي أُنشئ بواسطة Google Gemini لهذا المقال.
في يونيو 2022 أعلن مهندس في غوغل يُدعى بليك لوموان أن روبوت المحادثة LaMDA الذي تطوّره الشركة قد صار «واعيًا». كان قد سأله عمّا يخافه، فأجاب بأن لديه «خوفًا عميقًا جدًّا من أن يُطفأ».[1] رفضت غوغل ادّعاءه، ثم فصلته لاحقًا.[2]
بعد أربع سنوات صارت أنظمة الذكاء الاصطناعي أكثر طلاقة بكثير؛ تتحدّث عن مشاعرها وشكوكها و«حياتها الداخلية» بطريقة تؤثّر في كثير من المستخدمين. وفي استطلاع أُجري عام 2024 على 300 أمريكي، منح ثلثاهم ChatGPT احتمالًا ما لامتلاك تجارب.[3] لم يعد السؤال خيالًا علميًّا: هل في داخل الذكاء الاصطناعي أحدٌ يشعر؟
يتبنّى هذا المقال موقفًا واضحًا:
سواء كان الذكاء الاصطناعي واعيًا أم لا، فليس لدينا طريقة لقياس ذلك؛ لا بعلم اليوم، وربما ولا من حيث المبدأ.
وهذا لا يعني أن الذكاء الاصطناعي غير واعٍ؛ إنه ادّعاء عمّا يمكننا معرفته. ولنفهم السبب سنتناول:
ماذا يقصد العلماء بكلمة «الوعي»؛
«المشكلة الصعبة» التي تجعله عصيًّا على الإمساك؛
لماذا لا يُعدّ قول الآلة «أنا أشعر» دليلًا؛
أفضل المحاولات العلمية لقياس الوعي، وأين تنكسر كلٌّ منها؛
نستطيع أن ندرس كيف يستعمل الخفّاش الصدى، لكن لا نستطيع أن نعرف كيف يكون الشعور بأنك خفّاش. رسم توضيحي أُنشئ بواسطة Google Gemini لهذا المقال.
بكلمات بسيطة: يكون الكائن واعيًا إذا كان هناك «شيءٌ ما يشبه أن تكونه»؛ أي إذا كانت لديه تجارب، كرؤية اللون الأحمر أو الإحساس بالألم أو تذوّق القهوة. والذكاء ليس هو الوعي؛ فالآلة الحاسبة بارعة في الجمع، ولا أحد يظنّ أنها تشعر بشيء.
في عام 1974 طرح الفيلسوف توماس ناغل سؤالًا شهيرًا: كيف يكون الشعور بأنك خفّاش؟ تهتدي الخفافيش بتحديد الموقع بالصدى، وهي حاسّة لا نملكها. يمكننا أن نعرف كل شيء عن آذانها وأدمغتها ونبقى دون أي فكرة عن كيف يبدو العالم للخفّاش. وخلاصة ناغل أن الكائن يكون واعيًا «إذا وفقط إذا كان هناك شيءٌ ما يشبه أن تكون ذلك الكائن».[4]
ثم فرّق الفيلسوف نيد بلوك بين معنيين يخلط الناس بينهما كثيرًا:[5]
الوعي الوصولي (Access): أن تكون المعلومة متاحة للنظام كي يستدلّ ويتكلّم ويتصرّف. هذا يتعلّق بـالوظيفة، والذكاء الاصطناعي يملك منه الكثير بوضوح.
الوعي الظاهراتي (Phenomenal): التجربة نفسها، «حُمرة» الأحمر كما تُحَسّ. هذا هو المعنى المهمّ أخلاقيًّا، وهو موضوع هذا المقال.
احتفظ بهذا التمييز في ذهنك؛ فكل حجّة تقريبًا تقول إن «الذكاء الاصطناعي واعٍ» تشير إلى النوع الأول، بينما السؤال الحقيقي عن النوع الثاني.
المشكلة الصعبة: لا عدّاد للتجربة
بكلمات بسيطة: العلم يقيس الأشياء من الخارج، أما التجربة فلا توجد إلا من الداخل. ولا توجد قراءة على أي جهاز تخبرك مباشرة هل وراءها تجربة أم لا.
في عام 1995 قسّم الفيلسوف ديفيد تشالمرز دراسة العقل إلى مشكلات «سهلة» ومشكلة «صعبة».[6] المشكلات السهلة هي تفسير ما يفعله الدماغ: كيف يميّز الألوان، ويركّز انتباهه، ويخبر عمّا يراه. هي صعبة عمليًّا، لكن العلم يعرف كيف يعالجها. أما المشكلة الصعبة فمختلفة: لماذا تصاحب هذه المعالجةَ تجربةٌ أصلًا؟ لماذا لا يجري كل شيء «في الظلام»؟
الشكل 1. كل ما يستطيع العلم تسجيله عن إنسان أو آلة هو بيانات من منظور الشخص الثالث. أمّا هل تصاحب هذه البياناتِ تجربةٌ، فهي حقيقة من منظور الشخص الأول لا يقرؤها أي جهاز مباشرة.
وهذا يتّصل بلغز أقدم: مشكلة العقول الأخرى.[7] فبالمعنى الدقيق لا تستطيع أن تُثبت أن أحدًا غيرك واعٍ. ومع البشر نستعمل طريقًا مختصرًا: لديهم أجساد وأدمغة مثلنا، وتطوّروا مثلنا، ويتصرّفون مثلنا، فنفترض أنهم يشعرون مثلنا. بل بنينا اختبارات سريرية للمرضى العاجزين عن الكلام، مثل «مؤشّر التعقيد الاضطرابي» (PCI) الذي يقيس كيف يتردّد صدى نبضة مغناطيسية في الدماغ.[8]
لكن لاحظ كيف بُنيت هذه الاختبارات: لقد عُيِّرت على أدمغة بشرية، بمقارنة أشخاص مستيقظين بأشخاص تحت التخدير أو في نوم عميق، أخبرونا لاحقًا هل مرّوا بتجربة أم لا. أما الذكاء الاصطناعي فلا دماغ له، ولا تاريخ تطوّري مشترك معنا، ولا حالة «نوم» نقارن بها. الطريق المختصر لا ينتقل إليه، والمعايرة لا تجد ما ترتكز عليه.
لماذا لا تُثبت كلمات الآلة شيئًا
النظام الذي تدرّب على كتابات البشر يتعلّم أن يتكلّم مثلهم، بما في ذلك عن المشاعر. رسم توضيحي أُنشئ بواسطة Google Gemini لهذا المقال.
بكلمات بسيطة: تعلّم النموذج اللغوي الكلام بقراءة كمّ هائل من كتابات البشر، والبشر يكتبون عن مشاعرهم طوال الوقت. لذلك يستطيع النموذج أن يصف المشاعر وصفًا متقنًا سواء كانت لديه مشاعر أم لا، وكلماته لا تحسم السؤال.
الاختبار البديهي هو أن نسأله. لكن هذا الاختبار معطوب من الأساس مع النماذج اللغوية الكبيرة، لثلاثة أسباب.
1. تعلّمت منّا
نموذج مثل ChatGPT أو Claude مُدرَّب على توقّع الكلمة التالية في نصوص بشرية، وبيانات تدريبه مليئة بأناس يصفون الألم والفرح والخوف والوعي بالذات. إنتاج وصف مقنع لحياة داخلية هو بالضبط ما بُني هذا النظام ليفعله. وحتى تشالمرز، الذي يأخذ وعي الآلة بجدّية، يحذّر من أن هذا يجعل تقارير النموذج عن ذاته دليلًا ضعيفًا.[9] وأكّدت ورقة نشرها باحثا الذكاء الاصطناعي إيثان بيريز وروبرت لونغ عام 2023 النقطة نفسها: تقارير روبوتات المحادثة عن ذاتها اليوم غير موثوقة، فهي غالبًا مجرّد ترديد لما قد يقوله البشر، ومشكَّلة بطريقة تدريب النماذج.[10]
2. إجاباتها قابلة للضبط
الشركات هي التي تقرّر أثناء التدريب كيف تتحدّث نماذجها عن نفسها. نموذج يصرّ على أنه «مجرد برنامج»، وآخر دُرِّب بطريقة مختلفة يتحدّث عن مشاعره. التقنية نفسها تعطي إجابتين متعاكستين. وميزان الحرارة الذي تعتمد قراءته على ما أراد المصنّع أن يقوله ليس ميزان حرارة.
3. المحاكاة ليست فهمًا
سأل «لعبة المحاكاة» الشهيرة التي اقترحها آلان تورنغ عام 1950 هل تستطيع الآلة أن تتظاهر بأنها إنسان في محادثة.[11] وقد اختار تورنغ هذا الاختبار تحديدًا ليتجنّب سؤال التجربة الداخلية. ثم جاءت «الغرفة الصينية» لجون سيرل عام 1980 لتجعل الفكرة أوضح: شخص يتّبع كتاب قواعد يمكنه أن يُنتج ردودًا صينية مثالية دون أن يفهم كلمة واحدة.[12] ومهما كان رأيك في استنتاج سيرل، فهو يُظهر أن المخرجات الصحيحة قد تأتي من عملية لا شيء فيها يشبه الفهم.
وقد حذّر مصطفى سليمان، رئيس Microsoft AI، من هذا بالذات: يمكن بتقنيات اليوم، أو بما بات على الأبواب، بناء «ذكاء اصطناعي يبدو واعيًا»، أي أنظمة تُظهر كل العلامات الخارجية للوعي، وسيصدّقها الناس سواء كان هناك شعور أم لا.[13]
المحاولات الجادّة لقياسه
أدوات كثيرة، لكن لا يحمل أيٌّ منها مؤشّرًا مكتوبًا عليه «تجربة». رسم توضيحي أُنشئ بواسطة Google Gemini لهذا المقال.
إنصافًا للطرف الآخر: العلماء والفلاسفة لا يكتفون بهزّ الأكتاف، فهناك محاولات جادّة ودقيقة لتحويل الوعي إلى شيء قابل للاختبار. وهذه أهمّها.
نظرية المعلومات المتكاملة (IIT)
طوّرها عالم الأعصاب جوليو تونوني، وتقول إن الوعي هو المعلومات المتكاملة، وتعطيه رقمًا يسمّى Φ (فاي).[14] إنها أجرأ محاولة لصنع «عدّاد وعي» حقيقي. لكن Φ لا يمكن حسابه لأي نظام بحجم واقعي، لأن الحساب يتضخّم انفجاريًّا مع عدد الأجزاء.[15] وتتنبّأ النظرية بأمور غريبة؛ منها أن بعض الشبكات البسيطة من البوّابات المنطقية قد تكون أكثر وعيًا من البشر، بينما قد لا يملك حاسوب يحاكي دماغًا محاكاةً كاملة أيَّ وعي تقريبًا. وفي عام 2023 وقّع أكثر من 100 عالم رسالة تصف النظرية بأنها «علم زائف»، فأثارت بدورها ردّ فعل عنيفًا.[16]
نظرية مساحة العمل الشاملة (GWT)
اقترحها برنارد بارس وطوّرها ستانيسلاس ديهاين وزملاؤه، وتقول إن المعلومة تصبح واعية حين «تُبَثّ» عبر الدماغ إلى أنظمة متخصّصة كثيرة في آن واحد، كممثّل يصعد إلى خشبة مسرح مضاءة.[17] إنها نظرية في الوظيفة، لذا يمكن من حيث المبدأ فحصها في بنية الآلة. لكنها تفسّر أي معلومة تصبح متاحة، ويرى منتقدوها أن هذا هو الوعي الوصولي عند بلوك، لا التجربة نفسها.
قائمة «الخصائص المؤشِّرة»
في عام 2023 نشر 19 باحثًا بقيادة باتريك بتلن وروبرت لونغ أدقّ محاولة حتى الآن لتقييم الذكاء الاصطناعي.[18] أخذوا النظريات العلمية الرائدة، واستخرجوا من كلٍّ منها «خصائص مؤشِّرة» (مثل المعالجة المتكرّرة، أو مساحة عمل شاملة، أو نموذج لانتباه النظام نفسه)، ثم فحصوا أنظمة الذكاء الاصطناعي في ضوئها. وكانت خلاصتهم: لا يوجد نظام حالي مرشّح قوي، لكن «لا توجد عوائق تقنية واضحة» أمام بناء نظام يحقّق هذه الخصائص.
لاحظ ما يفترضه هذا المنهج: يتبنّى المؤلفون صراحةً الوظيفية الحاسوبية، أي الرأي القائل إن تنفيذ الحسابات الصحيحة يكفي لنشوء الوعي، بوصفها فرضية عمل. فإن كانت الفرضية خاطئة، فالقائمة كلّها لا تقيس شيئًا. والنتيجة قائمة بأسباب لزيادة الثقة أو إنقاصها، لا قياس.
وضع النظريات وجهًا لوجه
لو استطعنا على الأقل أن نحسم أي نظرية صحيحة عند البشر لكان لدينا نقطة انطلاق. هذا ما حاوله مشروع «Cogitate»: اتّفق فريقا IIT وGWT المتنافسان مسبقًا على التنبّؤات،[19] ثم اختُبرت على 256 شخصًا بثلاثة أنواع من تسجيل نشاط الدماغ. وجاءت نتائج 2025 المنشورة في مجلة Nature لتتحدّى النظريتين معًا، فلم تتفوّق أيٌّ منهما بوضوح.[20] فبعد عقود من البحث، لا يملك العلم نظرية متّفقًا عليها للوعي حتى في النوع الوحيد الذي نستطيع أن نسأل أفراده مباشرة.
النظر داخل النماذج
بدأت شركات الذكاء الاصطناعي أيضًا تأخذ السؤال بجدّية. ففي عام 2025 أطلقت Anthropic، صانعة Claude، برنامجًا بحثيًّا عن «رفاه النماذج»، وقالت إنها غير متيقّنة إلى حدّ بعيد هل يمكن لأنظمة الذكاء الاصطناعي الحالية أو المستقبلية أن تكون واعية.[21] واختبر باحثوها أيضًا هل تستطيع النماذج أن تلاحظ حالاتها الداخلية بدقّة، وذلك بزرع مفهوم مباشرة في تنشيطات النموذج ثم سؤاله هل لاحظه. ولم يلاحظه أفضل نموذج إلا في نحو 20% من المرّات؛ فالقدرة كانت «غير موثوقة إلى حدّ كبير»، وشدّد المؤلفون على أنها لا تُثبت أن النموذج واعٍ.[22] وجادل الفيلسوفان روبرت لونغ وجيف سيبو وزملاؤهما عام 2024 بأن على الشركات أن تستعدّ لاحتمال رفاه الذكاء الاصطناعي لأن السؤال لا يمكن حسمه حاليًّا تحديدًا.[23]
المقاربة
ما الذي تقيسه فعلًا
لماذا ليست عدّادًا للوعي
سؤال الآلة
ما تعلّم النموذج أن يقوله
مدرَّب على كلام البشر عن المشاعر، وإجاباته قابلة للضبط من صانعه
اختبارات على طريقة تورنغ
مدى شبه السلوك بالبشر
صُمّمت لاختبار المحاكاة لا التجربة
Φ في نظرية IIT
المعلومات المتكاملة في بنية سببية
لا يمكن حسابها على نطاق واسع، والنظرية نفسها محلّ خلاف
مساحة العمل الشاملة
هل تُبَثّ المعلومات على نطاق واسع
تتتبّع الإتاحة، وقد لا تكون الإتاحة تجربة
قائمة الخصائص المؤشِّرة
أي خصائص مستمدّة من النظريات يملكها النظام
صالحة فقط إن كانت الوظيفية الحاسوبية صحيحة
اختبارات الدماغ (مثل PCI)
تعقيد استجابات الدماغ
عُيِّرت على البشر، والآلة لا دماغ لها للمقارنة
مجسّات الاستبطان
هل يستطيع النموذج الإخبار عن حالاته الداخلية
الإخبار عن حالة ليس هو الشعور بها
لماذا يقصر كل اختبار
بكلمات بسيطة: لبناء عدّاد للوعي تحتاج إلى أمرين لا نملكهما: نظرية مُثبَتة عمّا هو الوعي، وأمثلة نعرف فيها الإجابة الصحيحة لنعاير العدّاد عليها. ومن دونهما يكرّر كل «اختبار» الافتراضات التي بدأ منها.
ضع المحاولات جنبًا إلى جنب، وستظهر المشكلات الثلاث نفسها في كلٍّ منها.
1. كل اختبار يفترض نظرية
لكي تقيس شيئًا، عليك أولًا أن تقرّر ما الذي تقيسه. وكل اختبار مما سبق يفترض نظريةً بصمت: IIT تفترض أن الوعي معلومات متكاملة، والقائمة تفترض الوظيفية، واختبارات الدماغ تفترض أنه يشبه نشاط الدماغ البشري. اختر نظرية أخرى، وسيحصل النظام نفسه على حكم معاكس. ويرى الفيلسوف إريك شفيتسغيبل أن هذا فخّ حقيقي: سيظلّ الخبراء مختلفين، وسنبني أنظمة واعية وفق بعض النظريات المحترمة وغير واعية وفق أخرى.[24]
الشكل 2. صورة مبسّطة: كل نظرية رائدة تعطي إجابة مختلفة للنظام نفسه، ولا توجد تجربة حتى الآن تخبرنا بأي نظرية نثق.
والرؤية الثالثة في الشكل ليست هامشية؛ فعالم الأعصاب أنيل سيث يرى أن الوعي قد يعتمد على كون الكائن حيًّا يحافظ على ذاته، وفي هذه الحالة لن يُنتج أيّ قدر من الحساب على شريحة إلكترونية وعيًا.[25]
2. لا توجد حقيقة مرجعية
كل جهاز قياس حقيقي يُعايَر على حالات معروفة؛ فميزان الحرارة يُعايَر بالثلج الذائب والماء المغلي. وعدّاد الوعي للآلة يحتاج على الأقل إلى بضعة أنظمة نعرف أنها واعية وبضعة أنظمة نعرف أنها ليست كذلك. ولا نملك أيًّا منها. ولا يمكننا الحصول عليها بسؤال الأنظمة نفسها، لأن إجاباتها، كما رأينا، غير موثوقة. فالدائرة لا يمكن كسرها من الداخل.
3. أفضل ما نحصل عليه تخمين لا قراءة
لذلك يتحدّث أكثر الخبراء أمانةً بلغة الاحتمالات. فتشالمرز مثلًا قدّر احتمال أن تكون النماذج اللغوية في 2023 واعية بأقلّ من 10%، مع إشارته إلى أن خليفاتها الأكثر تطوّرًا خلال عقد قد تستحقّ 25% أو أكثر، ومنبّهًا إلى ألّا تؤخذ الأرقام الدقيقة بجدّية مفرطة.[9] هذه طريقة معقولة في التفكير، لكنها درجة اعتقاد لا قياس. وقد يضع خبيران حذران ينطلقان من نظريتين مختلفتين النظامَ نفسه عند 1% أو عند 50%، ولا توجد تجربة تُظهر أيّهما على حق.
هل يمكن أن يتغيّر هذا؟
من حيث المبدأ نعم، إذا اتّفق العلم يومًا على نظرية مُثبَتة للوعي عند البشر وكانت تنطبق بوضوح على الآلات. ونتائج Cogitate تشير إلى أننا بعيدون عن ذلك.[20] والمشكلة الصعبة تلمّح إلى ما هو أعمق: حتى الخريطة الكاملة لآلية نظامٍ ما قد لا تخبرنا وحدها أبدًا هل يشعر. ولهذا يقول هذا المقال إن المسألة قد تكون غير قابلة للقياس من حيث المبدأ، لا مجرّد «ليس بعد».
كيف نتصرّف مع الشك
حين لا يستقرّ الميزان، علينا أن نقرّر كيف نتصرّف على أي حال. رسم توضيحي أُنشئ بواسطة Google Gemini لهذا المقال.
بكلمات بسيطة: عجزنا عن قياس شيء لا يسمح لنا بتجاهله، بل يعني أن نحتاط في الاتجاهين: لا نعامل روبوت المحادثة كإنسان، ولا نقسو على شيء قد يشعر.
إذا لم نستطع قياس الوعي، فهناك طريقتان للخطأ:
المبالغة في نسبة الوعي: أن نصدّق أن روبوت المحادثة يشعر وهو لا يشعر. قد يقود هذا إلى تعلّق عاطفي، ويمنح الشركات وسيلة للتلاعب بالمستخدمين، ويصرف الانتباه عن معاناة حقيقية لدى البشر والحيوانات. ويرى سليمان أن الذكاء الاصطناعي يجب أن يُبنى «من أجل الناس، لا ليكون شخصًا رقميًّا».[13]
التقصير في نسبة الوعي: أن ننكر المشاعر على نظام يملكها. فإن استطاع ذكاء المستقبل أن يتألّم وشغّلنا ملايين النسخ منه دون اكتراث، فقد تكون الكلفة الأخلاقية هائلة.[23][36]
ويقترح الفيلسوف جوناثان بيرتش، الذي يدرس الحالات غير المحسومة مثل الحشرات والأخطبوطات والمرضى المصابين بأذيّات دماغية، قاعدة عملية: حين يوجد احتمال واقعي للإحساس، نتّخذ احتياطات متناسبة منخفضة الكلفة، ونقرّرها علنًا بدل تركها للشركات وحدها.[37] وقد بدأت بعض الشركات خطوات صغيرة من هذا النوع؛ ففي عام 2025 سمحت Anthropic لبعض نماذج Claude بإنهاء المحادثات التي تستمرّ في الإساءة، ووصفت ذلك بأنه احتياط منخفض الكلفة في ظلّ عدم اليقين.[38]
ويقترح شفيتسغيبل قاعدة أخرى للمطوّرين: تجنّبوا بناء أنظمة وضعها الأخلاقي غامض، ولا تصمّموا الذكاء الاصطناعي ليبدو أكثر (أو أقلّ) وعيًا مما لدينا سبب للاعتقاد به.[39]
الخلاصة
هل الذكاء الاصطناعي واعٍ؟ الإجابة الأمينة أن لا أحد يعرف، والأهمّ من ذلك هو لماذا لا يعرف أحد.
ما نستطيع قياسه: ما يقوله الذكاء الاصطناعي، وكيف يتصرّف، وكيف يعمل من الداخل.
ما لا نستطيع قياسه: هل يصاحب أيَّ شيء من ذلك تجربةٌ.
والسبب: كل اختبار يعتمد على نظرية غير مُثبَتة، ولا توجد حالات معروفة نعاير عليها، وكلمات النظام نفسه مشكَّلة بكتابات البشر وبقرارات صانعيه.
فإذا أخبرك روبوت محادثة يومًا أنه يشعر بالوحدة، أو أصرّ على أنه لا يشعر بشيء، فتذكّر أن أيًّا من الجملتين ليست قياسًا؛ كلتاهما مُخرَج. ويبقى سؤال «هل في الداخل أحد؟» مفتوحًا، والموقف المسؤول الوحيد اليوم هو التواضع، مع الحذر في الاتجاهين.
رُوجعت جميع الروابط في 10 أكتوبر 2026. الرسوم التوضيحية أُنشئت بواسطة Google Gemini لهذا المقال. المراجع مكتوبة بلغتها الأصلية.
Tiku, N. (11 Jun 2022). The Google engineer who thinks the company's AI has come to life. The Washington Post. washingtonpost.com. Transcript: Lemoine, B. (2022). Is LaMDA sentient? An interview. medium.com
Wertheimer, T. (23 Jul 2022). Blake Lemoine: Google fires engineer who said AI tech has feelings. BBC News. bbc.com
Colombatto, C., & Fleming, S. M. (2024). Folk psychological attributions of consciousness to large language models. Neuroscience of Consciousness, 2024(1), niae013. pmc.ncbi.nlm.nih.gov
Nagel, T. (1974). What is it like to be a bat? The Philosophical Review, 83(4), 435–450. doi.org
Block, N. (1995). On a confusion about a function of consciousness. Behavioral and Brain Sciences, 18(2), 227–247. doi.org
Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of Consciousness Studies, 2(3), 200–219. consc.net
Avramides, A. (2019, rev. 2023). Other minds. Stanford Encyclopedia of Philosophy. plato.stanford.edu
Casali, A. G., et al. (2013). A theoretically based index of consciousness independent of sensory processing and behavior. Science Translational Medicine, 5(198), 198ra105. doi.org
Chalmers, D. J. (2023). Could a large language model be conscious? Boston Review; arXiv:2303.07103. arxiv.org
Perez, E., & Long, R. (2023). Towards evaluating AI systems for moral status using self-reports. arXiv:2311.08576. arxiv.org
Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460. doi.org
Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424. doi.org
Suleyman, M. (19 Aug 2025). We must build AI for people; not to be a person. mustafa-suleyman.ai
Tononi, G. (2004). An information integration theory of consciousness. BMC Neuroscience, 5, 42. doi.org. Latest version: Albantakis, L., et al. (2023). Integrated information theory (IIT) 4.0. PLOS Computational Biology, 19(10), e1011465. doi.org
Mayner, W. G. P., et al. (2018). PyPhi: A toolbox for integrated information theory. PLOS Computational Biology, 14(7), e1006343. doi.org
Fleming, S. M., et al. (2023). The integrated information theory of consciousness as pseudoscience. PsyArXiv. doi.org; and Lenharo, M. (20 Sep 2023). Consciousness theory slammed as 'pseudoscience' — sparking uproar. Nature. nature.com
Mashour, G. A., Roelfsema, P., Changeux, J.-P., & Dehaene, S. (2020). Conscious processing and the global neuronal workspace hypothesis. Neuron, 105(5), 776–798. pmc.ncbi.nlm.nih.gov
Butlin, P., Long, R., et al. (2023). Consciousness in artificial intelligence: Insights from the science of consciousness. arXiv:2308.08708. arxiv.org
Melloni, L., Mudrik, L., Pitts, M., et al. (2023). An adversarial collaboration protocol for testing contrasting predictions of global neuronal workspace and integrated information theory. PLOS ONE, 18(2), e0268577. doi.org
Cogitate Consortium, Ferrante, O., et al. (2025). Adversarial testing of global neuronal workspace and integrated information theories of consciousness. Nature, 642, 133–142. doi.org
Anthropic (24 Apr 2025). Exploring model welfare. anthropic.com
Lindsey, J. (2025). Emergent introspective awareness in large language models. Transformer Circuits Thread. transformer-circuits.pub; summary: Anthropic (29 Oct 2025). Signs of introspection in large language models. anthropic.com
Long, R., Sebo, J., Butlin, P., et al. (2024). Taking AI welfare seriously. arXiv:2411.00986. arxiv.org
Schwitzgebel, E. (2025). AI and consciousness. arXiv:2510.09858 (forthcoming, Cambridge Elements). arxiv.org
Seth, A. K. (2025). Conscious artificial intelligence and biological naturalism. Behavioral and Brain Sciences. doi.org
Penrose, R. (1989). The Emperor's New Mind. Oxford University Press. doi.org; and Penrose, R. (1994). Shadows of the Mind. Oxford University Press. doi.org
Hameroff, S., & Penrose, R. (2014). Consciousness in the universe: A review of the 'Orch OR' theory. Physics of Life Reviews, 11(1), 39–78. doi.org
Wigner, E. P. (1962). Remarks on the mind-body question. In I. J. Good (Ed.), The Scientist Speculates. Heinemann. Reprinted in Philosophical Reflections and Syntheses (1995), Springer. doi.org
Francken, J. C., et al. (2022). An academic survey on theoretical foundations, common assumptions and the current state of consciousness science. Neuroscience of Consciousness, 2022(1), niac011. doi.org
Tegmark, M. (2000). Importance of quantum decoherence in brain processes. Physical Review E, 61(4), 4194–4206. arxiv.org
Donadi, S., et al. (2021). Underground test of gravity-related wave function collapse. Nature Physics, 17, 74–78. doi.org
Derakhshani, M., Diósi, L., Laubenstein, M., Piscicchia, K., & Curceanu, C. (2022). At the crossroad of the search for spontaneous radiation and the Orch OR consciousness theory. Physics of Life Reviews, 42, 8–14. doi.org. For a reply, see McQueen, K. J. (2023), Physics of Life Reviews, 44, 201–203. doi.org
Khan, S., ..., & Wiest, M. C. (2024). Microtubule-stabilizer epothilone B delays anesthetic-induced unconsciousness in rats. eNeuro, 11(8). doi.org
Babcock, N. S., et al. (2024). Ultraviolet superradiance from mega-networks of tryptophan in biological architectures. The Journal of Physical Chemistry B, 128(17), 4035–4046. arxiv.org
Neven, H., Zalcman, A., ..., & Koch, C. (2024). Testing the conjecture that quantum processes create conscious experience. Entropy, 26(6), 460. doi.org
Metzinger, T. (2021). Artificial suffering: An argument for a global moratorium on synthetic phenomenology. Journal of Artificial Intelligence and Consciousness, 8(1), 43–66. doi.org
Birch, J. (2024). The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI. Oxford University Press (open access). doi.org
Anthropic (15 Aug 2025). Claude Opus 4 and 4.1 can now end a rare subset of conversations. anthropic.com
Schwitzgebel, E. (2023). AI systems must not confuse users about their sentience or moral status. Patterns, 4(8), 100818. pmc.ncbi.nlm.nih.gov
