في العمق

بقلم
أ.د.فوزي أحمد عبد السلام
المسافة بين الحقيقة والبرهان في رحلة البحث عن اليقين
 اليقين مع دخول اللاّنهاية
البرهان علي صحّة جملة ما أو خطئا شئ عظيم بل وجميل ولكن تظلّ هناك مسافة بين الحقيقة كما هي والبرهان على ما نظنّ أنّه حقيقة، وفي واقع الأمر نحن لا نبرهن إلاّ على ما نعتقد صحّته وفق مجموعة نعتقد أنّها معطيات وبديهيّات هذا الشّئ، وممّا يدلّ على ذلك تعديل كثير من التّصورات بمرور الزّمن مع استمرار الشّك حتّى فيما حسم بيقين عند البعض. أنظر إلي هذه المفارقة في إثبات أنّ شيئاً ما غير قابل للإثبات وغير قابل للنّقض، لقد قام «كورت جوديلKurt Gödel» في عام 1940 بإثبات أنّ فرضيّة الاتصال التي قدّمها «جورج كانتور» وهي حدس رياضي عن أحجام اللاّنهايات 1878 م لا يمكن نقضها، وفي عام 1963 أثبت بول كوهين أنّه لا يمكن إثباتها. لذلك يعتبر اليقين كلمة محبّبة جدّا إلى كلّ النفوس سواء تلك المطمئنة بإيمانها أو المزلزلة بشكوكها لأنّ الإنسان بشكل عام يحتوي بداخله على الإبهام والارتباك والحيرة، وربّما ينبغي أن يكون اليقين نقطة مرجعيّة خارج تركيبة النّفس. وإذا كان الصّفر «المعبّر عن العدم» هو النّقطة المرجعيّة للقياس في دنيانا الطّبيعية، إلاّ أنّنا لا نستطيع قياس العدم نفسه. فإنّه ينبغي أن تكون اللاّنهاية هي النّقطة المرجعيّة لكلّ وجودنا، ولن نستطيع أيضا قياسها، وربّما يكون من الخطأ سحبه أي اليقين على دنيانا المليئة بالشّكوك. كما فعل «برتراند راسل» و«ألفرد وايتهيد» عندما اعتقدا أنّ الرّياضيات كآداة والتي ابتكرها الإنسان الملئ بالشّكوك تحتوي على اليقين، فألّفا كتابا ضخما «أصول الرّياضيات»[1] جاء في ثلاثة مجلّدات، حلّا فيه تناقضات كثيرة خطوة خطوة منطقيّا وبالبرهان التّفصيلي الدّقيق، وبرهنا فيه على جمل في منتهى الوضوح حتى أنّهما أفردا أكثر من 300 صفحة لبرهان أن 1 + 1=2. وفي الأيام الأولى للكتاب أتت الرّياح بما لا تشتهي السّفن، فقد أثبت «كورت جودل» أنّ اليقين الرّياضي غير موجود أصلا. إنّ نظريّة «جودل» أزاحت طهر اليقين المحيط بالرّياضيات. فمهما بلغت الرّياضيات من الجمال والرّصانة والدّقة والهيبة فهي من صناعة الإنسان الممتلئ بالشّك، فكيف يصنع الشّاك يقينا. لقد ذهب بحلم «هلبرت» ومن معه بل وبمن قبله بألفي عام، فلا أمل في بعضِ فرضيّاتٍ تؤمّن تأسيس كلّ الرّياضيات عليها. غاية ما نطمح إليه هو القدرة على برهنة أكبر قدر ممكن مما نعتقد أنّه حقيقة وليس كلّ ما نعتقد أنّه حقيقة. سيظلّ العقل دائما سابقا أدوات الحساب سواء كانت منتجات تكنولوجيّة مثل الكمبيوتر أو حتّى الخوارزميّة منها، سيظلّ العقل الحدسي سابقا على العقل الحسابي، وربّما نفكّر في وضع اختبار لتلك الحدسيّة وهي أن نزود الكمبيوتر بكلّ البديهيات ثم نضع له خوارزميّة يبرهن كلّ النّظريات التي برهنها الإنسان سابقا ويستنتج ويستقصي بل ويبرهن أيضا كلّ النّتائج الممكنة التي لم تبرهن من قبل سواء قدّمها الإنسان كحدسيّات أو يقدّمها هو «أي الكمبيوتر»، وإنّي على درجة كبيرة من التّخمين إن لم يكن يقينا أنّه سيفشل. 
الإنسان ومتلازمة النّقص
من العجب الذي يستدعي التّأمل أن يعيش «كورت جودل» أكبر خبراء العالم في علم المنطق مصابًا بوسواس فقد القدرة العقليّة طيلة حياته العاقلة. ومع ذلك فقد قدّم «جودل» نظريتين «مبرهنتين» في غاية الخطورة على الرّياضيات والمنطق والفلسفة وسمّيتا بمبرهنتي عدم الاكتمال[2] . مفاد النّظريتين باختصار غير مخلّ هو أنّ أيّ نظام رياضي يحوي حقائق لا يمكن لهذا النّظام إثباتها، أي لا يوجد تناسق تامّ بين النّظام ومسلّماته، سيظلّ دائمًا تقريرات صحيحة عن الأعداد الطّبيعيّة، ولكنّها غير مبرهنة وليس بالإستطاعة برهنة صحّتها في إطار النّظام ذاتِهِ. وأنّ أيّ نظام رياضيّ إمّا أن يكون ذاتي التّناقض (غير صحيح) أو غير مكتمل. فإذا كانت أنظمتنا الرّياضية صحيحة (غير ذاتية التّناقض) فعلينا الجزم بأنّها غير مكتملة، أي أنّ النّظريتين دليلٌ على إستحالة وجود مجموعة كاملة ومتناسقة من المُنطلقات البديهيّة لكلّ الحقائق في علم الرّياضيّات، ممّا يُظهِرُ محدوديّة جوهريّة في أصولِ هذا العلم الهامّ وهو المكوّن الرّئيسي في الحضارة الحديثة. بل خطورة النّظريتين تكمن في كونهما نظريتين في المنطق الرّياضي، وهو أساس كلّ العلوم وبالتّالي يمكن تعميمها على جميع العلوم الأخرى، أي أنّ هناك حقائق لن يستطيع العلم إثباتها حتّى في إطار فرضيّاته ومسلّماته ونظريّاته. هناك منطقة ستظلّ مظلمة دائما. ولن تضاء إلاّ في اللاّنهاية عندما تنكشف الحقيقة، وستضاء مناطق باستمرار للعقل البشري «كانت مظلمة» دون برهان ودون معرفة لماذا أضيئت، تبحث عن مصدر الضّوء فلا ترى إلاّ أثره، ولا يقلّل هذا من شأن الرّياضيات بل والعلوم الأخرى في وضع نماذج لها قدرة تفسيريّة عالية جدّا لكن لن تكون أبدا كلّية طالما ظلّت غير مكتملة. حتى النماذج «الشّرعيّة» التي نعتقد أنّها كلّية ستظلّ غير قابلة للتّطبيق بشكل كلّي لكنّها ستظلّ قادرة على إعطاء تفسير لكلّ شئ. من هذا المنطلق وضع العلماء بعض النّتائج المترتّبة على مبرهنة «جودل»، منها أنّهم اعتبروا أنّ الحقيقة مفهوم أكبر وأعمق من مفهوم الإثبات، وأنّ الإنسان لن يتمكّن أبداً من فهم نفسه بشكل كامل باعتباره نظاماً يحوي حقائق لا يمكن له إثباتها، فلأن يبرهن إنسان على أنّ النّظام الإنساني بكلّ علومه سيظلّ غير مكتمل وأنّه سيلازمه النّقص حتى يعيش في اللاّنهاية، فهذا قمّة العبقريّة في معرفة أنّ الحقيقة تتجاوز هذا العالم. وأنّ الإثبات الكامل على صدق كلّ الجمل في علم ما، بحيث يكون ذلك العلم غير متناقض وغير ناقص، ستكون خارجه.
الإثبات من خارج النّظام
لقد ساد اعتقاد بين علماء المنطق والخوارزميّات رسالة سمّيت برسالة «تورينج - تشيرتش» ومفادها «إنّ كلّ ما يحسب خوارزميّا يمكن حسابه بالآلة أي بآلة تورنج في ذلك الوقت والعكس بالعكس». ممّا عزّز من تلقّي هذا المبدأ بالقبول أنّ خمسة من العلماء الكبار في هذه الحقول عملوا مستقلّين وفي بلدان مختلفة وبأدوات مختلفة وانتهوا إلى الاتفاق على فحوى هذه الرّسالة، فقد عمل «كورت جودل» التّشيكي النّمساوي على الدوال المعمّمة تكراريّا واخترع ترقيما عرف باسمه واستخدمه في البرهنة على أنّ البناء الرّياضي سيلازمه النّقص وأنّ الإثبات الكامل على صدق كلّ الجمل الرّياضيّة لن يكون من داخل الرّياضيات بل ربّما يكون من خارج التّركيبة الإنسانيّة. لقد كان يرقّم كلّ عبارة بعدد من الأعداد الطّبيعية ثمّ يجري بكلّ دقّة خطوات البرهان مثلما يقوم بعمليّة حسابيّة لهذه الأعداد. إنّه بهذا يربط بين أيّ نظام رياضيّ ونظام حساب الأعداد الطّبيعية ويصل إلى أنّه ما دام نظام الأعداد الطّبيعية لا يمكن أن يكون كاملا وهو أساس الرّياضيات، فمن الواضح أنّ كلّ النّظم الأكثر تعقيدا ليست كاملة كذلك. لقد أثبت «جودل» بالبرهان أنّ الرّياضيات لا يمكن أن تبنى بمجموعة محدودة من المقدّمات والفرضيّات المنطقيّة. لقد برهن على ذلك باستخدام المنطق ضدّ المنطق نفسه. والأمريكي ألنزو تشيرتش Alonzo Church الذي ابتكر حسبان لمبدا calculus λ وأندريه ماركوف الروسي الذي عمل على ما سمّي بعد ذلك بعمليات ماركوف، وإيميل بوست الأمريكي الذي ابتكر أنظمة بوست القانونية. 
مهّد «جودل» بطريقة ترقيمه ونظريّاته هذه، الطّريق لمعاصريه ولمن جاء بعده مثل العبقريَين ألان تورينج Alan Turning البريطاني والأمريكي ألنزو تشرتش Alonzo Church ليصلا بنا إلى بناء علم الحاسب الآلي والذي هو أساس ما وصلنا إليه اليوم من منجزات. إنّ جودل وبعده تورينج وتشرتش وصلوا بنا إلى نتيجة عظيمة مفادها أنّ «أيّ نظام بني على المنطق لا يمكن أن يصل بنا تلقائيّا وميكانيكيّا إلى كلّ النّتائج الممكنة ولا يمكن أن يثبت كلّ عبارة صحيحة». وهذا يبرهن أنّ عقل الإنسان يعمل بطريقة تختلف عن عمل الحاسوب الذي يعتمد على فرضيّات منطقيّة تعمل من أجل الوصول إلى النّتائج. وقد حاول جودل التّنظير لذلك متوجّها إلى ما يسمّى بالمنطق الفطري Intuitionistic Logic الذي يقارن بالمنطق الكلاسيكي Classical Logic وهو يتماشى مع فكرة الإثبات من خارج النّظام. لم تكن أثار هذه الورقة إذن على الرّياضيات وحسب، التي جعلت منها علما مثل علم الفيزياء وشرع الرّياضيون يبحثون عن حلّ آخر غير المنطق الذي يؤسّس عليه الرّياضيات. حلٍ مثل المنهج العلمي الذي يتبع في العلوم الطّبيعية مثلا. لقد بدأ سؤال مدوّ لم ينته عن معنى الحقيقة. لم يكن الأثر محصورا بالرّياضيات، إنّه يمسّ طبيعة التّفكير الإنساني.
إنّنا لن نتمكّن أبداً من صنع حاسوب يحاكي قدرات العقل البشري لأنّ العقل البشري قادر على اكتشاف حقائق دون إثباتها، وأنّ الإثبات الذّاتي غير ممكن وهو ما يتجلّى ببساطة عندما نرى أنّه لا يمكن لأيّ فرد إثبات عقلانيّته بنفسه، العقل ببساطة كما يرى الفيزيائي النّظري الإنجليزي روجر بنروز ليس آلة تورينج، فالعقل لا يعمل بشكل خوارزمي في كلّ قضاياه وهذا لا يعنى أنّ المنطق غير مفيد، بل يعنى أنّ هناك حدودا للمنطق لا يمكن للمنطق أن يتعدّاها، وأنّ العقل أكبر من المنطق بكثير، وهو بدوره له حدود كما شرحها كانط فى نقد العقل الخالص. وأخيراً ومع أنّ العلم المادّي ليس كافياً للوصول للحقيقة المطلقة إلاّ أنّ الإنسان سيظلّ طموحا لإنتاج آلة «ذكيّة» تحاور، تجيب عن الأسئلة، تناقش، تطرح وجهات نظر، أشياء كلّها من أخصّ خصوصيّات العقل البشري، وكانت البدايات في كمبيوتر من ورق.
كمبيوتر من الورق
حضر تورينج إحدى محاضرات ديفيد هيلبرت والتي طرح فيها قائمة بعدّة مسائل رياضيّة ليس لها حلّ بعد، والمسألة التي حازت على اهتمامه هي مشكلة القرار Decision Problem، والمسألة  باختصارهي عند إنشاء أيّ تأكيد رياضي، هل هناك خطوات منطقيّة متسلسلة (خوارزميّة) يمكن من خلالها تحديد ما إذا كان هذا التّأكيد الرّياضي قابلا للبرهنة؟ هل هناك إمكانيّة لمعرفة ما إذا كانت مشكلة ما يمكن حلّها حسابيّا وكلّ ما تحتاجه هو بعض الوقت، أو يمكن المعرفة مقدّما أنّ مشكلة ما لا يمكن أن تحلّ حسابيّا، فلا يضيع الوقت في محاولة حلّها حسابيّا؟ لحلّ هذه المعضلة احتاج تورينج أن يوجد وسيلة لتطبيق الخوارزميات من خلال الجمع بين مجموعة من العمليات، فوصف آلة افتراضيّة [3] لها شريط ورقيّ لا نهائي الطول ومقسّم إلى مربّعات وكلّ مربع يسع رمزا واحدا فقط  والآلة مزوّدة برأس للقراءة ويمكن للآلة القيام بالعمليات التالية: إمكانية قراءة المربّع الحالي والاحتفاظ به في ذاكرتها،إمكانية مسح المربع الحالي،إمكانية استبدال الرمز الحالي في المربع الحالي برمز آخر،إمكانية نقل رأس القراءة على الشّريط لمربع واحد يمينا أو يسارا،مسجّل يمكن من خلاله تسجيل الحالة الحاليّة للآلة. لمعرفة مالذي قامت به الآلة. وهناك أجزاء أخرى مهمّة مثل جدول التّعليمات والذي يخبر الآلة بالعمليّات التي تنفذها.
استخدم «آلن» هذه الآلة الإفتراضيّة للحصول على أجوبة عديدة حول المنطق والرّياضيات. وأصبح يطلق على هذا النّوع من الآلات الإفتراضيّة اسم «آلة تورينج» أو «الآلة الورقيّة».ومن خلال عمله أوضح بأنّ المدخلات والمخرجات للدّالة الرّياضية مطابقة للمدخلات والمخرجات لما نسمّيه الآن البرنامج الحاسوبي. فأيّ برنامج يمكنه معالجة البيانات يمكنه أن يعالج البرنامج على أنّه نوع من البيانات. فالتّساؤل حول إمكانيّة حلّ المسألة الرّياضية حسابيّا هو نفس التّساؤل في ما إذا كان الحاسوب لديه القدرة على حساب نتيجة ما بنجاح ويتوقّف. وباستخدام آلته الإفتراضيّة، بيّن «تورينج» بأن ليس هناك طريقة مضمونة للتّأكد ممّا إذا كان برنامج ما مع مدخلات ما لهذا البرنامج يمكن ﻷيّ أحد أن يحدّد إذا كان البرنامج سيتوقّف (إلّا إذا نفّذنا البرنامج وانتظرنا لفترة غير محدّدة من الزّمن). في النّهاية أثبت «تورينج» بأنّ هناك تأكيدات رياضيّة لا يمكن برهنتها، وهذا يماثل القول بأنّ مشكلة القرار التي طرحها «هيلبرت» لا يمكن حلّها. ومع هذا الإثبات فلنا الحقّ في الاستمرار في تدعيم قدرات الآلات الذكيّة وربّما نأمل في إنتاج كمبيوتر يبادلنا الحبّ والكره والخوف والرّجاء والسّعادة والشّقاء ... إلى آخره. 
متى يتألّم الكمبيوتر
متى يتألّم الكمبيوتر لفقد صديق عزيز عليه «كمبيوتر بجواره مثلا أو صاحبه الذي يشغله» وهو ليس سؤال غرضه الاستنكار لكنّه سؤال لأولئك الذين يؤكّدون أنّ اليقين يعيش معنا في دنيانا، وهل لنا أن نسألهم سؤالا آخر وهو إن فعل الكمبيوتر ذلك يوما ما فلماذا لا تعتقدون أنّه سيكذب ويدلّس؟ وينتابه مثل ما ينتاب البشر من حالات الإخلاص أو الضّلال، متى يؤلّف الكمبيوتر نكتة جديدة ويمازح بها صديقه الكمبيوتر الآخر بجواره فيضحك ضحكا من القلب؟ متى يبحث الكمبيوتر عن زوجة وعن عمل وعن ابتكار جديد ينفع به العالم؟ إنّها أسئلة غريبة لكنّها تظلّ مشروعة بل ومطلوبة بعد أن عشنا في عصر التّكنولوجيا، فأجداد أجدادنا لم يكونوا يتصورون أنّك تستطيع أن تهاتف صديقا لك على بعد آلاف الكيلومترات منك وفي حديدة تسمّى «الموبايل» أو أن تطير في السّماء أو تجري لك عمليّات نقل الأعضاء بما فيها القلب والكبد. إنّها مسابقة تجري كلّ عام وهي «مسابقة لوبنر» بين الإنسان والكمبيوتر فيما يسمّى اختبار «تورينج»، توقّع «تورنج» نفسه سنة 1950م أنّ الكمبيوتر يستطيع أن يجتاز اختبار «تورينج» خلال 50 سنة، وبفارق ليس ضئيلا استطاع الكمبيوتر فعلا سنة 2014 أي بعد 64 سنة من كلام «تورينج» أن يجتاز هذا الاختبار ويضلّل البشر. لكن تبقى هنالك تحليلات كثيرة لذلك.
اختبار تورينج 
اختبار «تورينج» عبارة عن مسابقة يقعد فيها إنسان «حكم» أمام جهازين، يطرح «الحكم» أسئلة من خلال لوحة المفاتيح وتأتيه الإجابة مطبوعة من الإثنين، أحد المجيبين «كمبيوتر» والثاني «إنسان»، والمطلوب من «الحكم» أن يعرف من الكمبيوتر ومن الإنسان. لقد ابتكر «تورينج» هذا الاختبار ليحاول الإجابة عن تساؤل مهم وهو: هل من الممكن أن تصبح الآلة ذكيّة؟ اقترح «تورينج» أنّنا لو استطعنا محاكاة ذكاء الإنسان- وليس مثله لأنّنا لن نستطيع- نكون قد خطونا خطوة جيّدة ناحية اقتراب الآلة من الذّكاء، على أساس أنّنا لو أردنا أن نفحص ذكاء إنسان فإنّنا سنوجّه له بعض الأسئلة، ثم نقوم بالتّأكد من ردّ فعله، هذا معناه أنّك لو قعدت 5 دقائق - وهي المدّة الرّسمية لحوار في مسابقة تورينج - ولم تستطع أن تعرف إن كنت تكلّم الكمبيوتر أم الإنسان، فإنّ ذلك يعني أنّ هذا الكمبيوتر ذكيّ!. في اختبار تورينج يتمّ اختيار مجموعة محدّدة من النّاس «الحكّام»، ومطلوب منهم محاولة معرفة مع من يتكلّمون، صحفيّين وفلاسفة وعلماء وغيرهم. والاختبار عليه تعليقات كثيرة من ناحية نوعيّة الحكّام والمدّة المخصصة للإجابة والتي حددت بخمس دقائق. الأسئلة عادية جدّا، ليست أسئلة رياضيّة أو فيزيائيّة، يرى «تورينج» أنّ المطلوب من محتوى الأسئلة هو التّعرف على مدى تحرّر الإجابات من سيطرة ما أو طريق محدّد ما، حيث قال: «المفروض أنّ السّلوك الذّكي يتعرّف من عدم انضباطه، عدم تميزه بمسار معين، بمعنى أنّه متحرّر من أيّ اتجاه بشرط أن لا يكون السّؤال عشوائيّا من غير معنى». في المقابل وضع بعض المعترضين على أصحاب النّظرية الحاسوبيّة للعقل [4] والتي تزعم أنّ العقل يمكن النّظر إليه على أنّه نظام معالجة معلومات يعمل على قاعدة بيانات من رموز أوّلية، وضع هؤلاء مشكلة أمام اختبار تورينج، قالوا «حتّى لو استطعت أم لا، ففي النّهاية أنت وضعت له مدخلات معيّنة ومنتظر مخرجات معيّنة، ولو وضعت له صيني سيخرج صيني، ومن أجل ذلك أسموها «مشكلة الغرفة الصّينية Chinese Room Argument» مفاد هذه الحجّة هو أنّ الاختبار أو حتى البرنامج لن يمنح للكمبيوتر العقل أو الوعي، بغضّ النّظر عن مدى ذكائه فغاية ما فيه مطابقات خوارزميّة. والسّؤال المخيف هل إذا أنتجنا آلات ذكيّة بقدر كبير حتى إنّها تستطيع أن تضلّل الإنسان الذي يتحدّث معها، فلا يعرف إن كان يحدّث آلة أم إنسانا نكون بذلك قد فقدنا السّيطرة على أدواتنا التّكنولوجية؟. 
وهم الاكتمال وفقد السّيطرة
هل إذا كان اليقين الرّياضي يسكن معنا في دنيانا بمعنى أنّه ليس خارجا عنّا نركن إليه ليثبتنا؟، هل إذا كان اليقين جزءا منّا، كنّا فقدنا السّيطرة على أدواتنا التّكنولوجية التي ننتجها، لأنّها ستكون قادرة على إعطاء الحلول في وقت قصير جدّا مقارنة بعقل الإنسان وربّما الابتكارات الجديدة من توليف المسلّمات في كلّ علم مع بعضها، ولأصبح للكمبيوتر مثلا عقل ربّما أكثر ذكاء ووعيا منّا، فيهزم الكمبيوتر مثلا «جاري كاسباروف» لأوّل مرة في الشّطرنج سنة 1997، وبعدها بفترة قليلة أصبح من غير الممكن لأيّ إنسان أنّه يغلب كمبيوتر في الشّطرنج «هذا طبعا ليس لضعف العقل البشري أمام الكمبيوتر لكن لأنّ اللّعبة مبرمجة خوارزميّا تماما والفارق هو سرعة الكمبيوتر في التّنبؤ بالخطوة القادمة». هل في المستقبل ربّما نكتسب عداوة الكمبيوتر لحمقنا عندما نكون أطفالا أو نحظى بصداقته لرجاحة عقلنا كبارا؟. هل ربّما سيفضّل الكمبيوتر أن يعيش وحده، له رأس ماله وتجارته وعبادته؟. وهل سيشاركنا وينافسنا في الوظائف؟  كلّ هذه ونظائرها أسئلة مخيفة، لكن «واجبنا هو أن نظلّ متفائلين» [5] كما يقول كارل بوبر، لكنّها في الوقت نفسه تظلّ أسئلة مشروعة في ظلّ انتشار حالات لا تؤمن إلاّ باليقين في هذه العلوم فقط، بينما هو (أيّ اليقين) مفقود منها نفسها ببرهنة أساطينهم على ذلك، وربّما أزعم أن قدرة الإنسان في السّيطرة على إنتاجه التّكنولوجي وعدم تعدّيها هي علّية نابعة من عدم اكتمال نماذجه التّفسيرية حتّى ولو بإبسلون حيث «إبسلون» تؤول للصّفر كما يقول الرّياضيون. أخيرا جمال دنيانا في عدم اكتمالها ولو اكتملت لفقدنا المتعة فيها إلاّ أن ننشأ نشأ آخر.
الهوامش
[1]  برتراند راسل وألفرد وايتهيد «أصول الرياضيات» ، ترجمة محمد مرسي أحمد و أحمد فريد الأهواني، دار المعارف،  مصر (1961).
[2] John W. Dawson, Jr «گوديل وحدود المنطق»،مجلة العلوم الأمريكية، العدد10(2001)، ص 40.
[3] John E.Hapcroft, «Turing Machines», Scientific American, May-1984
[4] Searle,John(1992), «The Rediscovery of the Mind›, Cambridge, Massachusetts: MIT. Press، ISBN 978-0-262-26113-5
[5] كارل بوبر «أسطورة الإطار»، ترجمة يمني طريف الخولي، سلسلة عالم المعرفة - الكويت، (2003).