نسمع يومياً المزيد من السيناريوهات الكارثية حول الذكاء الاصطناعي، مما يدفعنا للتساؤل عما إذا كان من الحكمة حقاً مواصلة تطويره. وكان آخرها... جيف هينتون، الفائز بجائزة تورينج عام 2018 لإسهاماته في مجال التعلم العميق، ويُعتبر أحد الرواد في هذا المجال. من النماذج الحالية لامدا de جوجل y GPT-4 de أوبن إيه آي.
يشعر عالم الكمبيوتر البريطاني بشعور عميق القلق بشأن كيفية تجاوز نماذج مثل GPT-4 لقدرات البشر بكثير. وفيما يتعلق بالمعرفة العامة، يؤكد أنه إذا وصل الذكاء الاصطناعي إلى نقطة يطور فيها الوعي، فقد يقرر أن أفضل شيء للبشرية هو أن يتولى زمام الأمور.
سيحاول الذكاء الاصطناعي السيطرة على العالم، وفقًا لجيف هينتون
جيفري هينتونيُعرف باسم "عراب الذكاء الاصطناعي" ورائد في مجال التعلم العميق، وقد أعرب عن مخاوفه بشأن المخاطر المحتملة التي قد تنشأ عن الذكاء المتزايد لبرامج الدردشة الآلية مثل ChatGPT من OpenAI. في مقابلة حديثة مع هيئة الإذاعة البريطانية (بي بي سي)، وصف هينتون "سيناريو كابوسياً". حيث تسعى هذه الروبوتات الدردشة إلى السلطة، الأمر الذي قد تكون له عواقب وخيمة.
صرح هينتون في مقابلة مع هيئة الإذاعة البريطانية (بي بي سي) أن برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي لم تتجاوز بعد الذكاء البشري، لكنها قريبة من تحقيق ذلك. وأوضح قائلاً: "في هذه المرحلة، هم ليسوا أذكى منا، على حد علمي. لكنني أعتقد أنهم سيصبحون كذلك قريباً".كما أشار إلى أن قدرات GPT-4 على الاستدلال أقل من قدرات البشر، لكنها قادرة بالفعل على إجراء عمليات استدلال بسيطة. ونظرًا للوتيرة السريعة للتطور التكنولوجي، فمن الممكن أن تتحسن هذه الأنظمة بسرعة، وهو ما يستدعي القلق.
كما علق هينتون على مسؤولية جوجل في تطوير الذكاء الاصطناعي، قائلاً إن الشركة كانت "مسؤولة للغاية" في هذا الصدد.ومع ذلك، فقد أعرب في مقابلة سابقة مع صحيفة نيويورك تايمز عن قلقه بشأن إمكانات هذه التقنية في حال وقوع نسخة قوية منها في الأيدي الخطأ.
وأوضح هينتون، مُضيفاً إلى هذه النقطة، أن أسوأ سيناريو مُحتمل سيكون سيناريو كابوسياً حيث يقوم طرف خبيث، مثل قرر الرئيس الروسي فلاديمير بوتين منح الروبوتات القدرة على إنشاء أهداف فرعية خاصة بها..
ووفقًا لهينتون، فإن هذا قد يؤدي إلى قيام أنظمة الذكاء الاصطناعي بتطوير أهداف خاصة بها، مثل "أحتاج إلى اكتساب المزيد من القوة". وأشار كذلك إلى أن الذكاء الاصطناعي الذي نقوم بإنشائه يختلف اختلافاً كبيراً عن الذكاء البشري..
بينما يُعتبر البشر أنظمة بيولوجية، فإن أنظمة الذكاء الاصطناعي هي أنظمة رقمية. يكمن الاختلاف الرئيسي في حقيقة أنه مع الأنظمة الرقمية توجد نسخ متعددة من الشيء نفسه. مجموعة البيانات أو نموذج العالم، مما يسمح لهذه النسخ بالتعلم بشكل منفصل ومشاركة معارفها على الفور.
"يمكن لجميع هذه النسخ أن تتعلم بشكل منفصل ولكنها تتبادل معارفها على الفور، لذا فالأمر أشبه بوجود 10.000 شخص، وفي كل مرة يتعلم فيها شخص ما شيئًا ما، يعرفونه جميعًا تلقائيًا. وهكذا تستطيع هذه الروبوتات الدردشة أن تعرف أكثر بكثير مما يعرفه أي شخص بمفرده." جيف هينتون لهيئة الإذاعة البريطانية (بي بي سي).
جاءت محادثة هينتون مع هيئة الإذاعة البريطانية (بي بي سي) بعد أن صرح لصحيفة التايمز بأنه يندم على عمل حياته بسبب احتمال إساءة استخدام الذكاء الاصطناعي. هذا الخوف يسلط الضوء على أهمية اتباع نهج أخلاقي ومسؤول في تطوير الذكاء الاصطناعي.فضلاً عن الحاجة إلى نقاش عام حول الآثار والنتائج المحتملة للتقدم التكنولوجي في هذا المجال.
السيطرة البشرية في أيدي الذكاء الاصطناعي: حقيقة أم خيال؟
إن إمكانية سيطرة الذكاء الاصطناعي على البشر قد أصبحت واقعاً. أثارت هذه القضية العديد من النقاشات والتكهنات في المجالات الأكاديمية والتكنولوجية.
يجادل بعض الخبراء بأنه بالنظر إلى التقدم السريع في تطوير الذكاء الاصطناعي، فمن الممكن أن تظهر في نهاية المطاف أنظمة متطورة بما يكفي للتلاعب بالناس والسيطرة عليهم. لكن آخرين يجادلون بأن الذكاء الاصطناعي سيظل دائمًا مقيدًا بالمبادئ. والقيود التي يفرضها البشر على تصميمها وتشغيلها.
على الرغم من أن التقدم في مجال الذكاء الاصطناعي لا يمكن إنكاره، إلا أن العديد من الشركات والباحثين يعملون على تطبيق المبادئ الأخلاقية والضمانات لمنع إساءة استخدام هذه التقنية. وتشمل هذه المبادئ ضمان الشفافية والمساءلة والإنصاف في التنمية ونشر أنظمة الذكاء الاصطناعي.
علاوة على ذلك، يهدف ذلك إلى تعزيز التعاون بين الحكومات والمؤسسات والمجتمع المدني لوضع اللوائح و سياسات تمنع إنشاء أنظمة الذكاء الاصطناعي لأغراض خبيثة أو لأغراض التحكم.
إن أفضل طريقة لمعالجة المخاوف والهموم المتعلقة بالذكاء الاصطناعي هي تعزيز التثقيف والتوعية العامة بهذا الموضوع. وهذا يتضمن إعلام الجمهور بالتطورات التكنولوجية وآثارها والمخاطر المحتملة. وكذلك بشأن التدابير واللوائح القائمة لحماية المجتمع.
من خلال تشجيع نقاش مفتوح وبنّاء حول مستقبل الذكاء الاصطناعي و تأثيره على حياتناوهذا يخلق بيئة مواتية للتطوير المسؤول والأخلاقي للتكنولوجيا، وتجنب السيناريوهات التي يكون فيها للذكاء الاصطناعي القدرة على التحكم في البشر.
يحذر جيفري هينتون، "عراب" الذكاء الاصطناعي، من المخاطر مع استقالته من جوجل https://t.co/VSLH9mYjP5
- بي بي سي نيوز (المملكة المتحدة) (BBCNews) 2 أيار 2023
