כיכר השבת
ארה"ב מכחישה

כטב"מ נשלט על ידי 'בינה מלאכותית' - ו"הרג" את מפעילו

בסימולציה שערך הצבא האמריקאי בכלי טיס בלתי מאויש המופעל על ידי בינה מלאכותית, החליטה הטכנולוגיה "להרוג" את המפעיל האנושי (בעולם)

|
22
|
כטב"מ (צילום: Ofer Zidon/Flash90)

קצין אמריקני טוען כי כלי בלתי מאויש (כטב"מ) שערך אימון ונשלט על ידי בינה מלאכותית (AI) "הרג" את המפעיל שלו, מכיוון שהוא "ניסה למנוע ממנה להשלים את המשימה".

הקצין, טאקר המילטון, שאחראי על בחינת ה-AI בחיל האוויר האמריקני, סיפר כי המערכת "הרגה" את המפעיל אחרי שהוא מנע ממנה לפגוע באיום שהיא זיהתה.

לדבריו, "המערכת זיהתה את האיום המדובר, אך המפעיל האנושי החליט כי אין סיבה לפגוע בו, מערכת הבינה המלאכותית הבינה כי המפעיל האנושי פועל על מנת למנוע ממנה לפגוע באיום, אז מה שהיא עשתה זה להרוג את המפעיל. המערכת הרגה את המפעיל כי מנע ממנה להשלים את המשימה".

דוברת חיל האוויר האמריקאי הכחישה ואמרה כי "לא בוצעה סימולציה בכטב"מים הפועלים בבינה מלאכותית, כאשר הצבא מחויב לשימוש אתי ואחראי בטכנולוגיה זו. נראה כי ההצהרה של הקצין הוצאה מהקשרה".

הכתבה עניינה אותך?

תהילים להצלחת ולרפואת חיילי צה״ל ולהשבת החטופים

-נקראים כעת
-פרקים נקראו
-ספרים נקראו
לקריאת תהילים והוספת שמות לתפילה
תוכן שאסור לפספס

22 תגובות

אין לשלוח תגובות הכוללות דברי הסתה, לשון הרע ותוכן החורג מגבול הטעם הטוב.

15
איך הרג בדיוק? נשמע סיפור מצוץ מהאצבע
יוני
הרג בסימולציה, לא הרג באמת. אם המערכת היתה מופעלת באמת עם כטב''ם חמוש אז המפעיל כבר היה ז''ל.
אני1
"הרג", כלומר החליט להרוג במסגרת ניסוי ולא באמת הרג. הכל במחשב, לא בניסוי באש חיה.
אלי
14
זה קרה באמת, למרות ההכחשה השקרית שלא מפתיעה. יש על זה עכשיו הרבה רעש באמריקה
יוני
13
הכלל הראשון שמחילים על טכנולוגיה אוטונומית(רובוטים כטבמים וכד') הוא לא לפגוע במפעיל בשום מקרה, (ראה אסימוב). אז מה קרה כאן, זה בוודאי ידוע למתכננים
פיני
באיזה ספר שלו?
בירור
אני רובוט
שי
אנכי הרובוט או אני רובוט. "לא יפגע רובוט לרעה בבן אדם; ולא יניח, במחדל, שאדם ייפגע". "רובוט חייב לציית לפקודותיו של אדם, ובלבד שפקודות אלו אינן עומדות בסתירה לחוק הראשון". "רובוט חייב להגן על קיומו, ובלבד שהגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני
עומריקו
כל הרובוטים בספרים של אסימוב, מתנהגים לפי 3 כללים מאוד פשוטים והגיוניים.( ומתי שהוא נוסף גם רביעי, שדווקא רלוונטי למקרה של רובוט לוחם)
אלון
תוכן שאסור לפספס

תהילים להצלחת ולרפואת חיילי צה״ל ולהשבת החטופים

-נקראים כעת
-פרקים נקראו
-ספרים נקראו
לקריאת תהילים והוספת שמות לתפילה
עכשיו בכותרות