כיכר השבת

סכנות הבינה המלאכותית?

תוכנות פיתחו שפה עצמאית והבהילו את החוקרים

שתי תוכנות במעבדת הבינה המלאכותית של פייסבוק פיתחו שפה עצמאית כדי לתקשר ביניהם בצורה היעילה ביותר. החוקרים שחששו מאיבוד השליטה ניתקו את התוכנה (דיגיטל)

| 4 | כיכר השבת |
תוכנות פיתחו שפה עצמאית והבהילו את החוקרים
(צילום: שאטרסטוק)

חוקרים במעבדת הבינה המלאכותית של פייסבוק חוו פאניקה קלה לאחר שנוכחו שבינה מלאכותית שפיתחו הפסיקה לתקשר איתם באנגלית ועברה לשפה חדשה אותה המציאה כדי לתקשר עם תוכנות אחרות. הבוט הסורר נותק לאלתר. כך עולה מדיווח של האתר הקנדי 'דיגיטל טיימס'.

על פי הדיווח, הבוטים של פייסבוק פיתחו למעשה שפה חדשה באופן עצמאי שתאפשר להם לתקשר בצורה יותר יעילה ביניהם מבלי להזדקק ל"שטויות" של השפה האנושית. זהו לא המקרה הראשון שבו חוקרים מזהים פיתוח של שפה חדשה על ידי מערכות בינה מלאכותית. במקרה קודם, הבינה המלאכותית של גוגל שמשמשת בין השאר בשירות התרגומים המקוון שלה, פיתחה לעצמה שפה חדשה שתאפשר לה לבצע את מטלותיה בצורה יותר יעילה.

השפות האלה שמומצאות על ידי התוכנות, בתוך זמן קצר מתפתחות מהר מאוד לצורת תקשורת שכבר אינה דומה לשפה אנושית. מערכות בינה מלאכותית נוטות לפתח לעצמן יכולות לתקשורת יעילה בהתאם למשימות שלהן. למשל במקרה של הבוטים של פייסבוק, 'בוב' ו'אליס', אלה נדרשו לבצע מטלות מסוימות והשפה שימשה אותם לנהל מו"מ על המטלות שבוב יבצע ועל אלה של אליס.

לאחר שניתחו את השפה שבה השתמשו התוכנות כדי לתקשר בינן ובין עצמן, החוקרים נוכחו שהיא הייתה הרבה יותר יעילה מבחינתם כדי להעביר את המסרים ביניהם מאשר אם היו משתמשים בשפה אנושית רגילה.

השפה שפותחה בידיהם נפטרה משכבה עמוקה של מילים וביטויים ששימושיים רק לבני אדם, והסמנטיקה של המילים שלה כמו גם המבנה התחבירי הותאם ליעילות. בשפה פשוטה, הבינה המלאכותית נפטרה מכל מה שמריח מסרבול פיוטי, חברתי או רגשי והשאירה רק את הביטויים היעילים עבור ביצוע המטלה שלה וכך בעצם סייעה לבינה המלאכותית להשיג "הרבה" ב"מעט".

במקרה של בוב ואליס, לא הייתה להם שום תמורה בהמשך השימוש באנגלית, הרווח שלהם נמצא בהמצאה של שפה חדשה ויעילה יותר, מה שגם בוצע בפועל.

נושא הבינה המלאכותית מעלה כל העת את החשש כי ביום אחד יחליטו התוכנות כי הן לא נזקקות יותר למפעילים האנושיים שלהם והם יודרו מתהליך התקשורת ויאבדו שליטה עליהם. תרחישי האימה מדברים על עולם בו הרובוטים ישלטו בבני האדם אך בינתיים נראה כי הדברים תחת שליטה.

4 תגובות

אין לשלוח תגובות הכוללות דברי הסתה, לשון הרע ותוכן החורג מגבול הטעם הטוב.

התגובה נשלחה בהצלחה.
בקרוב התגובה תיבחן ע"י העורכים שלנו, אם תימצא תקינה תפורסם באתר.
התגובה נשלחה בהצלחה.
בקרוב התגובה תיבחן ע"י העורכים שלנו, אם תימצא תקינה תפורסם באתר.
4
לא ברור מה יהרוג את האנושות קודם, אבל ברור שהיא מתקרבת לקיצה במהירות בכל מקרה.
3
הם בנו תוכנה שבה שני רובוטים מתמקחים על מוצרים ומנסים להשיג כמה שיותר בכמה שפחות תשלום, על סמך היסטורייה של אלפי שיחות כאלה בין בני אדם אמיתיים. בלי להכנס לפרטי האלגוריתם, הרובוטים מחפשים את המשפטים שגרמו להשיג הכי הרבה ומשתמשים איתם בהתאם לתגובת הצד השני וכו' מה שקרה, שהרובוטים שלחו אחד לשני חצאי מ
2
הסרטים עושים נבואה שמגשימה את עצמה וזה דיי מפחיד. אל תתחילו עם זה וזהו חח :}

הצגת כל התגובות

1
לא יודע ממי זה הגיע, זה לא נכון, זה לא עובד ככה (נשלח באמצעות כיכר השבת בסלולרי)
אינטרנט ומחשבים