חרם אקדמי: "לעצור פיתוח חשאי של רובוט מחסל"

עשרות מומחים מחרימים אוניברסיטה בדרום קוריאה מחשש לפיתוח רובוט "שעלול להשמיד את האנושות". האוניברסיטה מכחישה. השבוע: חברות האו"ם ידונו באתגרי הנשק הקטלני האוטונומי

ynet
תמונה כלליתתמונה כלליתתמונה כללית

מומחי בינה מלאכותית הזהירו כי אוניברסיטה בדרום קוריאה החלה בתהליך של פיתוח "רובוט מחסל" חשאי שלטענת מתנגדי הטכנולוגיה עלול בעתיד אפילו להשמיד את האנושות. אקדמאים מובילים טוענים כי "המכון המתקדם הקוריאני למדע וטכנולוגיה" (KAIST) פועל עם יצרנית הנשק "האנווה מערכות" כדי לפתח טכנולוגיה עתידית זו.

 

הרובוטים של העתיד (צילום: אלי סגל)

 

57 אקדמאים מובילים מ-30 מדינות שונות חתמו על מכתב הקורא להחרים את האוניברסיטה ומביע חשש מתוכניות הבינה המלאכותית שלה. המומחים, שמכנים זאת "תיבת פנדורה", סבורים כי אסור להשתמש ברובוטים מחסלים אוטומטיים כנשק מלחמתי. הם אמרו כי הם מודאגים מהאפשרות מפיתוח רובוטים למטרות זדוניות.

 

העצומה נחתמה לאחר שאוניברסיטת KAIST פתחה בפברואר מעבדת נשק בינה מלאכותית. "יהיה קשה לסגור את תיבת הפנדורה אם היא תיפתח", הזהירו המדענים במכתב שממוען לנשיא המכון הקוריאני, פרופ' סונג צ'ול שין.

 

פרופ' טובי וולש מאוניברסיטת ניו סאות' וולס בסידני, אוסטרליה, שכתב את מכתב האזהרה הוסיף: "חבל מאוד שמוסד יוקרתי כמו KAIST מתכוון להאיץ את מרוץ החימוש. אנחנו לפיכך מצהירים פומבית שנחרים כל שיתוף פעולה איתו עד שנשיא המכון יספק ערובות שהמרכז לא יפתח כלי נשק אוטונומיים, ללא שליטה אנושית משמעותית".

 

צילום: shutterstockאילוסטרציה (צילום: shutterstock)
 

 

החשש של האקדמאים הוא שנשק אוטונומי כזה "יוביל למהפכה הצבאית השלישית. הוא יאפשר מלחמות בסדר גודל שמעולם לא נראה. זו יוכל להיות הנשק של הטרור".

 

בתגובה הודיעה האוניברסיטה כי אין בכוונתה לפתח "רובוטים מחסלים או כלי נשק דומים לכך. כמוסד אקדמי, זכויות האדם והסטנדרטים האתיים מאוד חשובים לנו. מטרתנו היא לפתח מחקר שיסייע לעולם. לא נערוך שום פעולות מחקריות המנוגדות לכבוד האדם, ובכלל זאת נשק אוטונומי ללא שליטה אנושית משמעותית".

 

וולש אמר בתגובה ל-CNN כי הוא מרוצה מהתשובה של האוניברסיטה, אך הוסיף: "עדיין יש כמה סימני שאלה בנוגע לכוונותיה". עד כה, החרם שהטילו עליה האקדמאים לא הוסר.

 

השבוע בז'נבה, שוויץ, 123 מדינות החברות באו"ם ידונו באתגרים המציבים כלי הנשק הקטלניים האוטונומיים, כש-22 מאותן מדינות קוראות לאסור לחלוטין כלי נשק כאלו.

 

כוחות דרום קוריאניים כבר הציבו רובוטים בגבול עם צפון קוריאה. הסמסונג SGR-A1 נושא מכונת ירייה שיכולה לעבור למוד אוטונומי, אבל בינתיים מופעלת על ידי בני אדם בעזרת מצלמות.

 

בין אלו שהזהירו מהרובוטים האוטומטיים נמצא גם בעלי SpaceX וטסלה, אלון מאסק. הוא כינה את הבינה המלאכותית "האיום הקיומי הגדול ביותר". לדבריו, "אם אתם לא מודאגים מבטיחות הבינה המלאכותית, אתם צריכים להיות. הסכנה ממנה גבוהה בהרבה מזו שמציבה צפון קוריאה. אף אחד לא אוהב רגולציה, אבל כל דבר (מכוניות, מטוסים, אוכל, תרופות) שיכול לסכן את הציבור הוא תחת רגולציה. כך צריך להיות גם בנוגע לבינה מלאכותית".