חוקרים שבנו מערכת CSAM ראשונית אומרים שזו של אפל מהווה סכנה

זוג חוקרי פרינסטון טוענים שמערכת זיהוי ה-CSAM של אפל מסוכנת מכיוון שהם חקרו והזהירו מפני טכנולוגיה דומה, אך שתי המערכות רחוקות מלהיות זהות.

ג'ונתן מאייר ו-Anunay Kulshrestha כתבו לאחרונהועיוןעבור הוושינגטון פוסטהמפרטים כמה מהחששות שלהם לגבי מערכת זיהוי ה-CSAM של אפל. חוקרי האבטחה כתבו שהם בנו מערכת דומה שנתיים קודם לכן, רק כדי להזהיר מפני הטכנולוגיה לאחר שהבינו את מלכודות האבטחה והפרטיות שלה.

לדוגמה, מאייר וקולשרסטה טוענים שניתן לשנות את השירות בקלות למעקב על ידי ממשלות אוטוריטריות. הם גם מצביעים על כך שהמערכת עלולה לסבול מתוצאות שגויות, ועלולה להיות פגיעה בפני שחקנים רעים החושפים משתמשים חפים מפשע לדגל שווא.

אוּלָם,המערכתששני חוקרי האבטחה שפותחו אינם מכילים אותו דברהגנה על פרטיות או אבטחהשאפל אפתה בטכנולוגיית זיהוי CSAM משלה.

בנוסף, החששות שממשלה יכולה להחליף בקלות מאגר מידע מלא בדיבור מתנגדים אינם מתפוגגים. מסד הנתונים של אפל מכיל גיבובים שמקורם לפחות בשני ארגוני בטיחות ילדים בתחומי שיפוט שונים לחלוטין. זה מספק הגנה מפני שממשלה אחת משחית ארגון לבטיחות ילדים.

בנוסף, תוכנית כזו תצטרך להסתמך על המבקרים האנושיים של אפל כדי להיות גם משתפי פעולה. אפל אומרת שחשבונות מסומנים נבדקים לאיתור חיוביות כוזבות על ידי מבקרים אנושיים. אם הצוות של אפל ימצא חשבונות שסומנו כחומר שאינו CSAM, אפל אומרת שהם היו חושדים שמשהו לא בסדר ויפסיקו להשיג את מסד הנתונים מאותם ארגונים.

חיובי כוזב הם גם נדירים להפליא במערכות של אפל. החברה אומרת שיש סיכוי של אחד לטריליון לחשבון שסומן כוזב. שוב, גם אם חשבון מסומן בטעות, יש לאשר את נוכחותו של CSAM לפני הפקת דיווח כלשהו לארגוני בטיחות ילדים.

יש גם הגנות מפני ששחקן גרוע שולח CSAM לאדם חף מפשע. מערכת אפל מזהה רק אוספים של CSAM ב-iCloud. אלא אם משתמש שומר CSAM ב-iCloud בעצמו, או שחשבון אפל שלו נפרץ על ידי שחקן איום מתוחכם, אז יש סיכוי קטן להונאה כזו.

בנוסף, המשתמשים יוכלו לוודא שמסד הנתונים של CSAM hashes ידועים המאוחסנים באופן מקומי במכשיריהם תואם את זה שמתוחזק על ידי אפל. גם לא ניתן למקד את מסד הנתונים - הוא חל על כל המשתמשים במדינה מסוימת.

המערכת של אפל מסתמכת גם על סריקה בצד הלקוח ובינה מקומית במכשיר. יש סף גם ל-CSAM - משתמש צריך לעבור את הסף הזה כדי אפילו להיות מסומן.

במילים אחרות, שני חוקרי האבטחה בנו מערכת שדומה רק במעורפל לזו של אפל. למרות שעשויים להיות טיעונים תקפים לגבי "קריפ משימה" ופרטיות, המערכת של אפל נבנתה מהיסוד כדי לתת מענה לפחות לחלק מהחששות הללו.