הפרדוקס של המחשבה: האם ה-AI שלכם באמת חושב?

בשבועות האחרונים, בעוד מודלים מסדרת ה-o של OpenAI (כמו o3 ו-o4-mini) כובשים את עולם פתרון הבעיות הלוגיות, מתפתח דיון מקצועי נוקב על מה שקורה בתוך ה'קופסה השחורה' של תהליך החשיבה. כעורכת שעוקבת מקרוב אחרי התחום, אני רואה פער גדל והולך בין ההבטחה לשקיפות לבין המציאות הטכנית. המודלים הללו לא רק פולטים תשובות שגויות, הם מייצרים 'שרשרת מחשבה' (Chain of Thought) שנראית הגיונית לחלוטין, גם כשהיא מבוססת על הנחות יסוד שגויות. זהו אינו 'שקר' במובן האנושי, אלא כשל טכני המכונה לעיתים 'הזיית כלי' (Tool Hallucination) או חוסר נאמנות (Unfaithfulness), שבו המודל מנסה להצדיק את הניחוש שלו בדיעבד. זהו פרדוקס השקיפות: ככל שאנחנו רואים יותר מהתהליך הפנימי, כך גובר הסיכון שנשתכנע מהנרטיב הלוגי של המודל, גם כשהוא טועה.