עורך הדין סטיבן שוורץ מניו יורק הצליח להסתבך קשות עם מערכת המשפט המקומית, וכל זה בגלל תוכנת הבינה המלאכותית ChatGPT.
הסיפור החל כאשר משרד עורכי הדין בה חבר שוורץ, ייצג לקוח של חברת התעופה הקלומביאנית "אוויאנקה", בכתב תביעה שהוגש נגד החברה לבית המשפט המקומי.
במכתב התביעה שהגיש שוורץ נטען כי הלקוח נפגע ברגלו כתוצאה מפגיעה של עגלה בבעלות החברה, ובעקבות כך ביקשו בין השאר לפצות את הלקוח על התאונה. עד כאן הכל היה תקין וכתב התביעה התנהל בבית המשפט במדינת ניו יורק.
העניינים החלו להסתבך כאשר עורך הדין הנ"ל המייצג את הלקוח, הגיש לבית המשפט מסמך ובו מופיעים שישה תקדימים משפטיים, שמהם רצה להוכיח את הפיצוי המגיע ללקוח. עורך הדין של חברת התעופה והשופט ניסו לאתר את אותם אירועים, אך לשווא. התברר כי כל אותם אירועים לא היו ולא נבראו.
כאשר עומת שוורץ עם טענת ההגנה כי ה"תקדימים" הומצאו על ידו, נאלץ עורך הדין להודות כי כלל ה"תיקים" אותם הציג שוורץ כראיה באולם בית המשפט נלקחו כולם מChatGPT, ושאין לו בסיס עובדתי אחר המעיד על התרחשותם.
עורך הדין לא אמר נואש, ופנה בלית ברירה למקור התקלה ChatGPT שאמר לו בביטחון מלא כי אותם אירועים אכן התרחשו אך "סירב" להוכיח את ה"עובדות". לאחר שהבין שוורץ כי הוטעה על ידי בינה מלאכותית, התנצל הלה לבית המשפט ואמר שלא היה לו מושג ש"בינה מלאכותית מסוגלת לשקר" וכי מעתה יבדוק היטב כל עובדה שיציג באולם הדיונים.
כאמור, בעקבות אותו אירוע נקרא שוורץ ושותף נוסף במשרד לשימוע מול השופט במדינת ניו יורק לחודש הבא, בו יתכן ויוטלו עליהם סנקציות שונות, שכן לפי בית המשפט מדובר באירוע "חסר תקדים", בו מוגשים לבית המשפט אירועים שלא התרחשו מעולם.