יודע מתי הוא טועה, אבל לא מתקן את עצמו -AI
AI גם כשהוא טועה, ה-
נשמע משוכנע בעצמו - וזה לא מקרי. צוות חוקרים מהטכניון, אפל וגוגל מצא כי המודלים "יודעים" שהם טועים, אך בוחרים שלא לתקן את עצמם באופן מודע. המחקר פורץ הדרך, שהוצג בכנס ICLR 2025, מספק הצצה נדירה אל תוך ה"קופסה השחורה" של הבינה המלאכותית
המחקר
https://www.ynet.co.il/digital/technology/article/bjrlmon1zx