تقنية جديدة من "إم.آي.تي" للكشف عن "هلوسة" تطبيقات الذكاء الاصطناعي - جورنالك

0 تعليق ارسل طباعة

نقدم لكم زوارنا الكرام أهم وآخر المستجدات كما وردت في المقال التالي: تقنية جديدة من "إم.آي.تي" للكشف عن "هلوسة" تطبيقات الذكاء الاصطناعي - جورنالك اليوم الثلاثاء 5 نوفمبر 2024 01:23 صباحاً

يعمل معهد ماساتشوستس للتكنولوجيا "إم.آي.تي" على تطوير تقنية جديدة تُسمى "سيمجين" للكشف عن "هلوسة" تطبيقات الذكاء الاصطناعي، وهي ظاهرة تشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج محادثة الذكاء الاصطناعي أحياناً. تهدف التقنية إلى مساعدة المدققين البشريين في التأكد من صحة الإجابات التي تقدمها هذه البرامج، وتسهيل عمليات التحقق.

وبحسب المعهد، تم تصميم "سيمجين" لتسريع عملية التحقق من إجابات الذكاء الاصطناعي بنسبة تصل إلى 20%، حيث يقدم مقتطفات من المعلومات ترتبط مباشرة بالمصدر الأصلي، مثل خلية معينة في قاعدة البيانات، مما يوفر مزيداً من الثقة في ردود نماذج اللغة الكبيرة ويقلل من الوقت المستغرق للتحقق.

ويرى الباحثون أن هذه التقنية قد تسهم في التغلب على بعض التحديات التي تواجه مدققي الحقائق، مثل الإرهاق الناتج عن تصفح المستندات المعقدة. وقد أكد شانون شين، الباحث في "إم.آي.تي"، أن "سيمجين" يعزز من موثوقية نماذج اللغة الكبيرة ويتيح للمستخدمين النظر عن كثب في المصادر.

ومع ذلك، أشار الباحثون إلى أن أداة "سيمجين" لا تعمل حالياً إلا مع جداول التدقيق ومصادر البيانات المنظمة، كما أنها تعتمد على جودة بيانات المصدر المستخدمة في تدريب نماذج الذكاء الاصطناعي.

إخترنا لك

أخبار ذات صلة

0 تعليق