'הסנדק של בינה מלאכותית' של גוגל מפחד מהסכנות שבינה מלאכותית מציבה לאנושות

ד"ר ג'פרי הינטון התפטר מתפקידו בגוגל כדי להעלות את המודעות לסכנות של בינה מלאכותית וכדי לתמוך בתקנות בינלאומיות.

OpenAI, שיצרה את ChatGPT וכלי AI אחרים, זכתה לכמות משמעותית של תשומת לבבתקופה האחרונה. חזקים יותר מצ'אטבוטים ישנים מחברות אחרות, אנשים יכולים להשתמש ב-ChatGPT כדי ליצור מאמרים, לעזור במחקר, לענות על שאלות ואפילולפעול באופן אוטונומי.

מדבר אל הניו יורק טיימס, הוא אומר שהוא התפטר מגוגל כדי להזהיר אנשים מהסיכונים של AI וחלק ממנו מתחרט על מפעל חייו.

"אני מנחם את עצמי בתירוץ הרגיל: אם לא הייתי עושה את זה, מישהו אחר היה עושה זאת", אמר ד"ר הינטון. "קשה לראות איך אתה יכול למנוע מהשחקנים הרעים להשתמש בזה לדברים רעים".

הינטון לא הצטרף לאנשים בולטים אחרים בחתימה עלמכתב פתוחלעצור את התקדמות הבינה המלאכותית באופן זמני. במקום זאת, הוא רצה להימנע מביקורת פומבית של גוגל וחברות אחרות עד שיעזוב את עבודתו.

הוא הודיע ​​לגוגל על ​​התפטרותו באפריל, וביום חמישי הוא שוחח בטלפון עם סונדאר פיצ'אי, מנכ"ל חברת האם של גוגל, אלפבית.

מחקר בסיסי ב-AI

ד"ר הינטון הוא חלוץ בבינה מלאכותית שיצר טכנולוגיה שהפכה לבסיס של מערכות AI רבות כיום, כמו כלים לזיהוי אובייקטים בתמונה. ב-1972 הוא עסק במחקר על רשתות עצביות.

זו מערכת שלומדת מיומנויות על ידי ניתוח נתונים, ולמרות שחוקרים אחרים היו סקפטיים לרעיון, הינטון הפך את הרשתות העצבית למפעל חייו.

ב-2012 הוא ושניים מתלמידיו בנו רשת עצבית שיכולה לנתח אלפי תמונות וללמד את עצמו לזהות חפצים יומיומיים כמו כלבים, מכוניות ופרחים. גוגל רכשה חברה שהוקמה על ידי ד"ר הינטון ותלמידיו, והמערכת שלהם הובילה לטכנולוגיות חזקות יותר, כולל ChatGPT.

אחד מהסטודנטים הללו, איליה סוצקבר, הפך למדען הראשי ב-OpenAI.

הינטון היה בתחילה סקפטי ביחס לרשתות עצביות שלמדו מטקסט דיגיטלי להבין וליצור שפה, אך השקפותיו השתנו עם הזמן. "אולי מה שקורה במערכות האלה", אמר, "בעצם הרבה יותר טוב ממה שקורה במוח".

מערכות בינה מלאכותית נוכחיות אינן חזקות כמו המוח האנושי במובנים מסוימים, אבל במובנים אחרים הן יכולות לעלות על האינטליגנציה האנושית.

"אנחנו מערכות ביולוגיות ואלה מערכות דיגיטליות. וההבדל הגדול הוא שעם מערכות דיגיטליות, יש לך הרבה עותקים של אותה סט משקלים, אותו דגם של העולם".הוא אמר ל BBC. "וכל העותקים האלה יכולים ללמוד בנפרד אבל לחלוק את הידע שלהם באופן מיידי."

"אז זה כאילו היו לך 10,000 אנשים ובכל פעם שאדם אחד למד משהו, כולם ידעו זאת אוטומטית", המשיך הינטון. "וככה הצ'אטבוטים האלה יכולים לדעת כל כך הרבה יותר מכל אדם אחד."

ככל שחברות משפרות את טכנולוגיות ה-AI שלהן, הן עלולות להפוך למסוכנות יותר. "תראה איך זה היה לפני חמש שנים ואיך זה עכשיו", אמר הינטון. "קח את ההבדל ותפיץ אותו קדימה. זה מפחיד".

ד"ר הינטון מודאג שהאינטרנט יוצף בקרוב בתמונות, סרטונים וטקסט מזויפים, ורוב האנשים לא יוכלו להבחין באמת. הוא גם מודאג מההשפעה של בינה מלאכותית על שוק העבודה ושזה יכול לקחת יותר מסתם "עבודת כפייה".

התחרות בין גוגל, מיקרוסופט וחברות אחרות עלולה להחריף לכדי מירוץ עולמי, שיימשך עד שתהיה צורה כלשהי של רגולציה גלובלית. אבל זה אולי בלתי אפשרי, אמר הינטון.

הוא מאמין שהתקווה הטובה ביותר של האנושות היא שהמדענים המובילים בעולם ישתפו פעולה כדי לשלוט בטכנולוגיה. "אני לא חושב שהם צריכים להגדיל את זה יותר עד שהם יבינו אם הם יכולים לשלוט בזה", אמר.

באשר לגוגל, "אנחנו נשארים מחויבים לגישה אחראית ל-AI", אמר המדען הראשי של החברה ג'ף דין בהצהרה. "אנחנו כל הזמן לומדים להבין סיכונים מתעוררים תוך חידושים נועזים".