סטיב ווזניאק, אילון מאסק ויותר מ-1,000 אחרים חתמו על מכתב פתוח המבקש להפסיק מיידית של שישה חודשים בטכנולוגיית AI חזקה יותר מ-ChatGPT-4.
זו הייתה השנה שבה הפכו סוכני בינה מלאכותית כמו ChatGPT ו-Google Bard למיינסטרים. למרות שכל חברות הבינה המלאכותית מתארות את המוצרים שלהן כניסויים, או למעשה מהדורות בטא, תכונות עיבוד השפה שלהן משולבות ב-Microsoft 365 וחיפושים כולל Bing.
עכשיו המכון עתיד החייםהואמבקשהפסקה "פומבית וניתנת לאימות" הכוללת את "כל השחקנים המרכזיים" בתחום. "אם לא ניתן לבצע הפסקה כזו במהירות", הוא מוסיף, "על הממשלות להתערב ולהפעיל מורטוריום"
מכון "עתיד החיים" שואף "לנתב טכנולוגיה טרנספורמטיבית לטובת חיים ולהתרחק מסיכונים בקנה מידה גדול".
מכתב זה בן 600 מילים, המיועד לכל מפתחי בינה מלאכותית, טוען שנדרשת הפסקה מכיוון ש"בחודשים האחרונים נראו מעבדות בינה מלאכותיות ננעלות במרוץ שיצא משליטה לפיתוח ופריסה של מוחות דיגיטליים חזקים יותר מתמיד שאף אחד - אפילו לא יוצריהם - יכולים להבין, לחזות או לשלוט בצורה מהימנה".
"מעבדות בינה מלאכותית ומומחים עצמאיים צריכים להשתמש בהפסקה זו כדי לפתח ולהטמיע במשותף קבוצה של פרוטוקולי בטיחות משותפים לתכנון ופיתוח מתקדמים של בינה מלאכותית, שנבדקים בקפדנות ומפוקחים על ידי מומחים חיצוניים בלתי תלויים", הוא ממשיך. "פרוטוקולים אלה צריכים להבטיח שמערכות הנצמדות אליהם בטוחות מעבר לכל ספק סביר."
"זה לא אומר הפסקה בפיתוח בינה מלאכותית באופן כללי", נכתב במכתב הפתוח, "רק צעד אחורה מהמירוץ המסוכן לדגמי קופסה שחורה ובלתי צפויים הולכים וגדלים עם יכולות מתפתחות".
בזמן כתיבת שורות אלה, על המכתב הפתוח של המכון 1,123 חותמים. אלה כוללים פרופיל גבוה כגון:
- אילון מאסק, מנכ"ל SpaceX, טסלה וטוויטר
- סטיב ווזניאק, מייסד שותף, אפל
- ג'אן טאלין, מייסד שותף של סקייפ
- אוון שארפ, מייסד שותף, פינטרסט
גם לגוגל וגם למיקרוסופט ישעבדליישם כלים טכנולוגיים המבוססים על מערכות צ'טבוט חדשות של AI. ההשקה הראשונית של יישום Bing של מיקרוסופטהתמודד גרועובארד של גוגל עשה אטעות עובדתיתבהדגמה הראשונה שלו.
