ה-BBC של בריטניה התלוננה על תכונת סיכום ההודעות של אפל בiOS 18מפוברק לחלוטין את תמצית המאמר. הנה מה קרה, ולמה.
ההקדמה שלApple Intelligenceכללו תכונות סיכום, חסכון למשתמשים זמן על ידי הצעת נקודות מפתח של מסמך או אוסף של התראות. ביום שישי, סיכום ההודעות היווה בעיה גדולה עבור כלי חדשות מרכזי אחד.
הBBC התלונןלאפל על האופן שבו הסיכום מפרש לא נכון את כותרות החדשות ומגיע למסקנה שגויה בעת הפקת סיכומים. דובר אמר שאפל יצרה קשר כדי "להעלות את החשש הזה ולתקן את הבעיה".
בדוגמה שהוצעה בתלונת הציבור שלה, הודעה המסכמתחדשות BBCקובע "לואיג'י מנג'יון יורה בעצמו", בהתייחסו לאיש שנעצר על רצח מנכ"ל UnitedHealthcare בריאן תומפסון. מנג'ונה, שנמצאת במעצר, חיה מאוד.
"חיוני לנו שהקהל שלנו יוכל לסמוך על כל מידע או עיתונות המתפרסמים בשמנו וזה כולל הודעות", אמר הדובר.
סיכומים שגויים הם לא רק בעיה עבורBBC, כמו הניו יורק טיימסגם נפל קורבן. ב אפוסט בלוסקיעל סיכום 21 בנובמבר, נטען "נתניהו נעצר", אולם הסיפור היה בעצם על בית הדין הפלילי הבינלאומי שהוציא צו מעצר לראש ממשלת ישראל.
אפל סירבה להגיב להודעהBBC.
הזוי את החדשות
המקרים של סיכומים שגויים מכונים "הזיות". זה מתייחס כאשר מודל AI מגיע עם תגובות לא ממש עובדתיות, אפילו מול סטים ברורים ביותר של נתונים, כמו סיפור חדשותי.
הזיות יכולות להוות בעיה גדולה עבור שירותי AI, במיוחד במקרים שבהם צרכנים מסתמכים על קבלת תשובה פשוטה ופשוטה לשאילתה. זה גם משהו שגם חברות אחרות מלבד אפל צריכות להתמודד איתו.
לדוגמה, גרסאות מוקדמות של בארד AI של גוגל, כיום Gemini,בשילוב איכשהומלקולם אוון הAppleInsiderכותב עם הזמר המת בעל אותו השם מלהקת The Ruts.
הזיות יכולות לקרות במודלים ממגוון סיבות, כגון בעיות בנתוני האימון או תהליך האימון עצמו, או יישום שגוי של דפוסים שנלמדו על נתונים חדשים. ייתכן שהמודל גם חסר מספיק הקשר בנתונים שלו ומבקש להציע תגובה נכונה לחלוטין, או להניח הנחה שגויה לגבי נתוני המקור.
לא ידוע מה בדיוק גורם לבעיות סיכום הכותרות במקרה זה. כתבת המקור הייתה ברורה לגבי היורה, ולא נאמר דבר על תקיפת האיש.
זו בעיה שמנכ"ל אפלטים קוקהבין היה אבעיה פוטנציאליתבזמן ההכרזה על Apple Intelligence. ביוני הוא הודה שזה יהיה "קצר מ-100%", אבל זה עדיין יהיה "איכותי מאוד".
באוגוסט, נחשף כי לאפל מודיעין היו הנחיות ספציפיות לכךנגד הזיות, כולל המשפטים "אל תזות. אל תמציא מידע עובדתי".
לא ברור גם אם אפל תרצה או תוכל לעשות הרבה בקשר להזיות, בגלל הבחירה שלא לפקח על מה שהמשתמשים רואים באופן פעיל במכשירים שלהם. Apple Intelligence נותנת עדיפות לעיבוד במכשיר במידת האפשר, אמצעי אבטחה שמשמעותו גם שאפל לא תקבל הרבה משוב לתוצאות סיכום בפועל.
