כיכר השבת
סכנות הבינה המלאכותית?

פיתחו שפה עצמאית והבהילו את החוקרים

שתי תוכנות במעבדת הבינה המלאכותית של פייסבוק פיתחו שפה עצמאית כדי לתקשר ביניהם בצורה היעילה ביותר. החוקרים שחששו מאיבוד השליטה ניתקו את התוכנה (דיגיטל)

|
4
| כיכר השבת |
(צילום: שאטרסטוק)

חוקרים במעבדת הבינה המלאכותית של פייסבוק חוו פאניקה קלה לאחר שנוכחו שבינה מלאכותית שפיתחו הפסיקה לתקשר איתם באנגלית ועברה לשפה חדשה אותה המציאה כדי לתקשר עם תוכנות אחרות. הבוט הסורר נותק לאלתר. כך עולה מדיווח של האתר הקנדי 'דיגיטל טיימס'.

על פי הדיווח, הבוטים של פייסבוק פיתחו למעשה שפה חדשה באופן עצמאי שתאפשר להם לתקשר בצורה יותר יעילה ביניהם מבלי להזדקק ל"שטויות" של השפה האנושית. זהו לא המקרה הראשון שבו חוקרים מזהים פיתוח של שפה חדשה על ידי מערכות בינה מלאכותית. במקרה קודם, הבינה המלאכותית של גוגל שמשמשת בין השאר בשירות התרגומים המקוון שלה, פיתחה לעצמה שפה חדשה שתאפשר לה לבצע את מטלותיה בצורה יותר יעילה.

השפות האלה שמומצאות על ידי התוכנות, בתוך זמן קצר מתפתחות מהר מאוד לצורת תקשורת שכבר אינה דומה לשפה אנושית. מערכות בינה מלאכותית נוטות לפתח לעצמן יכולות לתקשורת יעילה בהתאם למשימות שלהן. למשל במקרה של הבוטים של פייסבוק, 'בוב' ו'אליס', אלה נדרשו לבצע מטלות מסוימות והשפה שימשה אותם לנהל מו"מ על המטלות שבוב יבצע ועל אלה של אליס.

לאחר שניתחו את השפה שבה השתמשו התוכנות כדי לתקשר בינן ובין עצמן, החוקרים נוכחו שהיא הייתה הרבה יותר יעילה מבחינתם כדי להעביר את המסרים ביניהם מאשר אם היו משתמשים בשפה אנושית רגילה.

השפה שפותחה בידיהם נפטרה משכבה עמוקה של מילים וביטויים ששימושיים רק לבני אדם, והסמנטיקה של המילים שלה כמו גם המבנה התחבירי הותאם ליעילות. בשפה פשוטה, הבינה המלאכותית נפטרה מכל מה שמריח מסרבול פיוטי, חברתי או רגשי והשאירה רק את הביטויים היעילים עבור ביצוע המטלה שלה וכך בעצם סייעה לבינה המלאכותית להשיג "הרבה" ב"מעט".

במקרה של בוב ואליס, לא הייתה להם שום תמורה בהמשך השימוש באנגלית, הרווח שלהם נמצא בהמצאה של שפה חדשה ויעילה יותר, מה שגם בוצע בפועל.

נושא הבינה המלאכותית מעלה כל העת את החשש כי ביום אחד יחליטו התוכנות כי הן לא נזקקות יותר למפעילים האנושיים שלהם והם יודרו מתהליך התקשורת ויאבדו שליטה עליהם. תרחישי האימה מדברים על עולם בו הרובוטים ישלטו בבני האדם אך בינתיים נראה כי הדברים תחת שליטה.

הכתבה עניינה אותך?

תהילים להצלחת ולרפואת חיילי צה״ל ולהשבת החטופים

-נקראים כעת
-פרקים נקראו
-ספרים נקראו
לקריאת תהילים והוספת שמות לתפילה
תוכן שאסור לפספס

4 תגובות

אין לשלוח תגובות הכוללות דברי הסתה, לשון הרע ותוכן החורג מגבול הטעם הטוב.

4
לא ברור מה יהרוג את האנושות קודם, אבל ברור שהיא מתקרבת לקיצה במהירות בכל מקרה.
מושיקו
3
הם בנו תוכנה שבה שני רובוטים מתמקחים על מוצרים ומנסים להשיג כמה שיותר בכמה שפחות תשלום, על סמך היסטורייה של אלפי שיחות כאלה בין בני אדם אמיתיים. בלי להכנס לפרטי האלגוריתם, הרובוטים מחפשים את המשפטים שגרמו להשיג הכי הרבה ומשתמשים איתם בהתאם לתגובת הצד השני וכו' מה שקרה, שהרובוטים שלחו אחד לשני חצאי מ
ויאו
2
הסרטים עושים נבואה שמגשימה את עצמה וזה דיי מפחיד. אל תתחילו עם זה וזהו חח :}
ISRAEL FOR EVER
תוכן שאסור לפספס

תהילים להצלחת ולרפואת חיילי צה״ל ולהשבת החטופים

-נקראים כעת
-פרקים נקראו
-ספרים נקראו
לקריאת תהילים והוספת שמות לתפילה
עכשיו בכותרות