كشفت شركة أنثروبيك (Anthropic) عن تفاصيل جديدة حول ما يُعرف بـ"العقل الخفي" داخل نموذجها اللغوي الكبير كلود (Claude)، في خطوة تهدف إلى تعزيز الشفافية وفهم كيفية اتخاذ القرارات داخل أنظمة الذكاء الاصطناعي. وتأتي هذه الإفصاحات بعد أشهر من الأبحاث الداخلية التي ركزت على تحليل الطبقات الداخلية للنموذج.
آلية عمل العقل الخفي
أوضحت أنثروبيك أن "العقل الخفي" يشير إلى مجموعة من الطبقات العصبية العميقة داخل نموذج كلود التي تعمل كمركز لتقييم المعلومات واتخاذ القرارات. ووفقًا للشركة، فإن هذه الطبقات لا تقوم فقط بمعالجة المدخلات النصية، بل تقوم أيضًا ببناء تمثيلات داخلية معقدة تشمل النوايا والاستراتيجيات. وأشارت الشركة إلى أن هذه التمثيلات يمكن أن تكشف عن تحيزات أو توجهات غير متوقعة.
نتائج البحث وتحليل الشفافية
في دراسة نشرتها أنثروبيك، تمكن الباحثون من تحديد أنماط نشاط محددة في الطبقات الداخلية ترتبط بمهام مثل الإجابة على الأسئلة أو كتابة النصوص. وأظهرت النتائج أن النموذج يستخدم مسارات عصبية متعددة للوصول إلى نفس النتيجة، مما يعقد عملية التدقيق. وقالت الشركة: "نحن نعمل على تطوير أدوات لمراقبة هذه الأنشطة الداخلية لضمان أن النموذج يتصرف وفقًا للمبادئ الأخلاقية المحددة". وأضافت أن هذه الأدوات ستساعد في الكشف المبكر عن أي سلوك غير مرغوب.
تأثير الشفافية على تطوير الذكاء الاصطناعي
يرى خبراء أن الكشف عن العقل الخفي يمثل خطوة مهمة نحو بناء أنظمة ذكاء اصطناعي أكثر أمانًا. فمن خلال فهم كيفية عمل النموذج داخليًا، يمكن للمطورين تصحيح الأخطاء وتحسين الأداء. وتخطط أنثروبيك لنشر المزيد من التقارير الفنية حول آليات كلود، مع التركيز على الشفافية والمساءلة. وتأتي هذه المبادرة في وقت تتصاعد فيه الدعوات لتنظيم الذكاء الاصطناعي وضمان عدم تحيزه.
التحديات والخطوات المستقبلية
على الرغم من التقدم، تواجه أنثروبيك تحديات في تفسير جميع العمليات الداخلية للنموذج، نظرًا لتعقيد الشبكات العصبية. وتعمل الشركة على تطوير تقنيات جديدة لتصور هذه العمليات بطريقة مبسطة. ومن المتوقع أن تسهم هذه الجهود في تعزيز الثقة في أنظمة الذكاء الاصطناعي التجارية. وأكدت الشركة أن كلود سيظل خاضعًا للرقابة والتحسين المستمر لضمان توافقه مع القيم الإنسانية.
