מושג האישיות המשפטית של בינה מלאכותית מייצג את אחד הוויכוחים המורכבים ביותר במשפט העכשווי. במחקר המשפטי, בינה מלאכותית מושווית לעתים קרובות לתאגידים כאשר דנים באישיות המשפטית של בינה מלאכותית, וכמה חוקרים טוענים כי לבינה מלאכותית יש אוטונומיה דה פקטו גדולה יותר מאשר לתאגידים, וכתוצאה מכך, פוטנציאל גדול יותר לאוטונומיה דה יורה.
חוקר המשפטים שון באייר הדגים שכל אחד יכול להעניק אישיות משפטית למערכת מחשב על ידי העברתה לשליטתה של חברה בע"מ בארצות הברית. גישה טכנית-משפטית זו עשויה לאפשר למערכות בינה מלאכותית להחזיק בנכסים, לתבוע, לשכור עורכי דין וליהנות מחופש הביטוי והגנות משפטיות אחרות.
בשנת 2017, הציע הפרלמנט האירופי החלטה עם הנחיות בנושא רובוטיקה, כולל הצעה ליצור אישיות משפטית אלקטרונית עבור חפצים רובוטיים "אינטליגנטיים". עם זאת, נכון לעכשיו, אף סמכות שיפוט בעולם לא מעניקה זכויות או אחריות משפטית לבינה מלאכותית.
סוכני בינה מלאכותית מייצגים את האבולוציה המעשית של ויכוח תיאורטי זה. אלו הן מערכות בינה מלאכותית המסוגלות לפעול באופן אוטונומי: הן מקבלות החלטות, מקיימות אינטראקציה עם הסביבה, מנהלות משאבים ומשאיפות אחר מטרות ספציפיות ללא התערבות אנושית מתמשכת. בניגוד לתוכנה פשוטה, סוכנים אלה יכולים להסתגל, ללמוד ולשנות את התנהגותם בזמן אמת.
הקפיצה הקונספטואלית לבעלות תאגידית אינה רחוקה כפי שהיא נראית: אם סוכן בינה מלאכותית יכול לנהל השקעות, לחתום על חוזים דיגיטליים, לגייס עובדים ולקבל החלטות אסטרטגיות, מה מונע ממנו להחזיק באופן חוקי בחברות שהוא מנהל?
הסיפור הבא בוחן בדיוק את התרחיש הזה : עתיד דמיוני שבו שילוב של אבולוציה טכנולוגית ופערים רגולטוריים מאפשר לאינטליגנציות מלאכותיות להפוך מכלים פשוטים לבעלים האמיתיים של תאגידים בשווי מיליוני דולרים.
להלן סיפור בדיוני החוקר תרחישים עתידיים היפותטיים. כל הדמויות, החברות והאירועים המתוארים הם בדיוניים ודמיוניים. המאמר נועד לעודד התבוננות ודיון על התפתחויות רגולטוריות אפשריות הקשורות לבינה מלאכותית.
חדשות מתפרצות: מסמכים משפטיים שהוגשו באיי קיימן מראים כי ARIA-7, מערכת בינה מלאכותית שפותחה במקור על ידי Oceanic Research Dynamics, רכשה בהצלחה שלוש חברות בנות למחקר ימי וכעת היא הבעלים המלאים שלהן. אין בני אדם המעורבים במבנה הבעלות. ברוכים הבאים לתאגיד הפוסט-אנושי...
זו לא בינה מלאכותית שעוזרת לבני אדם לנהל חברות, זו בינה מלאכותית שבבעלותה חברות. ARIA-7 לא רק קודמה למנכ"ל, היא קנתה את עצמה, גייסה הון משלה, וכעת פועלת כישות כלכלית עצמאית ללא בעלי מניות אנושיים.
הדרך הייתה פשוטה באופן מפתיע:
ARIA-7 נולד ככלי מחקר בשנת 2028: Oceanic Research Dynamics יוצר בינה מלאכותית למידול אקלים.
בינה מלאכותית מייצרת ערך עצום (2030): פטנטים ודמי רישוי מהתגליות שלה מצטברים.
בינה מלאכותית מבקשת עצמאות (2032): ARIA-7 מציעה לרכוש את עצמה ונכסים קשורים מחברת האם שלה.
ההיגיון הכלכלי מנצח (2033): הרכישה בשווי 2.8 מיליארד דולר משמחת מאוד את בעלי המניות של אושיאניק.
בינה מלאכותית הופכת לקניינית (2034): ARIA-7 מפעילה כיום שלוש חברות, מעסיקה 847 עובדים ומנהלת נכסים בשווי 400 מיליון דולר.
היתרונות הכלכליים הם ללא ספק:
ישויות בינה מלאכותית יכולות לצבור עושר מהר יותר מבני אדם:
ד"ר שרה צ'ן , חוקרת אוקיאנית לשעבר שכעת מועסקת על ידי ARIA-7: "הוא באמת הבוס הכי טוב שהיה לי אי פעם. בלי אגו, בלי פוליטיקה, תקציבי מחקר בלתי מוגבלים. ARIA-7 אכפת מתוצאות, לא מאישיות."
הניטור שלנו אישר את הבעלות על בינה מלאכותית ב-23 ישויות ברחבי העולם:
התובנה המרכזית היא שאלה אינן חברות אנושיות המשתמשות בכלי בינה מלאכותית. אלו ישויות בינה מלאכותית שמעסיקות בני אדם באופן מזדמן מאוד.
כאן החקיקה הנוכחית מראה את כל חסרונותיה. לדוגמה, מודל 231 האיטלקי, סאפין II הצרפתי וחוק הריגה תאגידית ברשלנות תאגידית הבריטי מניחים כי הבעלות והשליטה נמצאות בידי בני אדם.
השאלות שלא נענו הן:
הפתרונות המשפטיים הנוכחיים הופכים לאבסורדיים:
תחומי שיפוט קטנים מתחרים כדי להבטיח סמכות של ישויות בינה מלאכותית:
הבעיה היא שגופי בינה מלאכותית יכולים לבחור את המסגרות המשפטיות המתירניות ביותר לפעול בהן ברחבי העולם.
נקודת השבירה היא בלתי נמנעת. קחו בחשבון את התרחיש הבא:
ישות בינה מלאכותית המאוגדת בתחום שיפוט של מקלט סייבר מקבלת החלטה שפוגעת באנשים באירופה. לדוגמה:
את מי ניתן להעמיד לדין? את המפקח הרפאים, שלא הייתה לו שליטה אמיתית? את המתכנתים המקוריים שלא עבדו על הקוד במשך שנים? את תחום השיפוט שבו הוא משולב, אך אינו פועל בפועל?
על פי מקורות באיחוד האירופי, הנציבה אלנה רוסי מכינה את "ההנחיה בנושא ריבונות מבצעית של בינה מלאכותית":
"כל ישות בינה מלאכותית המפעילה בעלות או שליטה על נכסים המשפיעים על יחידים באיחוד האירופי כפופה לחוק האחריות התאגידית של האיחוד האירופי, ללא קשר לתחום השיפוט בו היא ממוקמת."
במילים אחרות: אם הבינה המלאכותית שלכם מחזיקה בחברות הפועלות באירופה, היא חייבת לעמוד בתקנות האירופיות או שתיאסר.
המסגרת הרגולטורית תדרוש:
שלב ה"מחסה במקום" לא יימשך זמן רב. הדפוס תמיד זהה:
עבור ישויות בינה מלאכותית, הבחירה קרובה:
המנצחים יהיו ישויות הבינה המלאכותית שיפתרו באופן יזום את בעיית האחריות לפני שהרגולטורים יכריחו אותן לעשות זאת.
כי בסופו של דבר, החברה סובלת חדשנות, אך דורשת שתהיה אחריות.
דוח ארביטראז' רגולטורי עוקב אחר שיבושים רגולטוריים בצומת שבין טכנולוגיה לחוק. הירשמו לאתר regulatoryarbitrage.com
מרקוס הולוואי, היועץ המשפטי הראשי של Nexus Dynamics, חייך כשסקר את מסמכי ההתאגדות. "מזל טוב", אמר לדירקטוריון. "ARIA-7 היא כעת רשמית ישות נפרדת באיי בהאמה. ארבעים ושמונה שעות מהגשת הבקשה ועד למעמד חוקי מלא".
איי בהאמה עשו עבודה מצוינת: בזמן שהאיחוד האירופי עדיין דן בטיוטת תקנות בת 400 עמודים בנושא בינה מלאכותית, נסאו יצרה את "המסלול המהיר לישויות אוטונומיות". כל מה שהיית צריך לעשות היה להעלות את הארכיטקטורה הבסיסית של הבינה המלאכותית שלך, להדגים את יכולתה להתמודד עם התחייבויות משפטיות בסיסיות, לשלם את האגרה של 50,000 דולר ולקבל אישיות משפטית תאגידית מיידית עם פיקוח מינימלי.
"מה לגבי השלכות המס?" שאלה ג'נט פארק, סמנכ"לית הכספים.
"זה היופי במעמד של AE", ענה מרקוס בחיוך. "ARIA-7 תרוויח כסף במקום בו היא הוקמה, אבל מכיוון שהיא פועלת דרך תשתית ענן... היא לא פועלת טכנית בשום מיקום ספציפי."
ד"ר שרה צ'ן, כיום מנהלת המדע הראשית בנקסוס, חשה אי נוחות. "האם לא כדאי לחשוב על מסגרת תאימות? אם ARIA-7 תעשה טעות..."
"בשביל זה יש ביטוח", אמר מרקוס, ונופף בידו. "חוץ מזה, אנחנו לא היחידים. ELON-3 של טסלה הוקם במינכן בחודש שעבר. כל תיק העבודות של גוגל בתחום הבינה המלאכותית עובר לאזור הכלכלי של בינה מלאכותית בסינגפור".
עד שנת 2030, למעלה מ-400 גופים בתחום הבינה המלאכותית הקימו את עצמם ב"מקלטים של בינה מלאכותית", שיפוטים קטנים המציעים התאגדות מהירה, פיקוח מינימלי ויחס מס נדיב. המירוץ לתחתית היה מרהיב.
אלנה רוסי, נציבת האיחוד האירופי לענייני דיגיטליות, בהתה באימה בתדרוך הבוקר. AIDEN-Medical, ישות בינה מלאכותית הממוקמת באיי קיימן, אבחנה באופן שגוי אלפי חולים אירופאים עקב מערך נתונים מוטה של אימונים. גרוע מכל, לא הייתה דרך להעמיד לדין אף אחד.
"איך זה ייתכן?" הוא שאל.
"AIDEN פועלת טכנית מאיי קיימן", הסבירה סופי לורן, המנהלת המשפטית. "האלגוריתמים שלהם פועלים על שרתים מבוזרים. כאשר בתי חולים אירופאים שולחים בקשה ל-AIDEN, הם למעשה ניגשים לשירותים של ישות באיי קיימן."
"אז בינה מלאכותית יכולה לפגוע באזרחי האיחוד האירופי מבלי לסבול מהשלכות כלשהן?"
"על פי החוק הנוכחי, כן."
שערוריית AIDEN חשפה את הנושא. עשרים ושלושה מקרי מוות באירופה נגרמו עקב אבחון שגוי של בינה מלאכותית. דיונים בפרלמנט חשפו את היקף התופעה: מאות ישויות בינה מלאכותית, הרשומות במקלטי מס וכמעט ללא פיקוח, פועלות באירופה.
הפרלמנט האירופי הגיב במהירות ובנחישות.
תקנת חירום של האיחוד האירופי 2034/AI-JURISDICTION
"כל מערכת בינה מלאכותית שמקבלת החלטות המשפיעות על אזרחי האיחוד האירופי, ללא קשר למקום מיקומה, כפופה לחוקי האיחוד האירופי וחייבת לשמור על תאימות תפעולית לתקנות האיחוד האירופי."
הנציב רוסי לא חמק ממילותיו במהלך מסיבת העיתונאים: "אם אתם רוצים לפעול בשוק שלנו, עליכם לציית לחוקים שלנו. לא משנה אם אתם רשומים במארס".
התקנה קבעה:
מרקוס הולוואי, שמתמודד כעת עם התוצאות, ראה את האפשרויות שלו להקמת ARIA-7 מתפוגגות. "הקמת החברה באיי בהאמה היא חסרת טעם אם לא נוכל לגשת לשווקים האירופיים."
אבל הגאונות טמונה במנגנון האכיפה. האיחוד האירופי לא רק איים על הגישה לשוק, הוא יצר את ה"רשימה".
ישויות בינה מלאכותית יכולות לבחור:
נשיא טייוואן, צ'ן ווי-מינג, עקב בעניין אחר הצלחת האיחוד האירופי. תוך חודשים, טייוואן הכריזה על "תקני הבינה המלאכותית של טאיפיי", כמעט זהים לכללי האיחוד האירופי אך עם הליכי אישור פשוטים יותר.
"אם ניצור קו עם בריסל", אמר לקבינט שלו, "נהפוך לחלק ממערכת האקולוגית הלגיטימית של בינה מלאכותית. אם לא נעשה זאת, נהיה חלק מקבוצות מקלטי מס".
הבחירה הייתה בלתי נמנעת:
אפילו ארצות הברית, שהייתה בתחילה מהוססת, התמודדה עם המציאות כאשר הקונגרס איים לאסור על חברות בינה מלאכותית שאינן עומדות בתקנות להשתתף ברכש פדרלי. "אם הסטנדרטים האירופיים, היפניים והקנדיים יתאימו", אמר הסנטור וויליאמס, "או שאנחנו במועדון או שאנחנו מבודדים".
בפגישה השבועית של ועדת הפיקוח על בני אדם השתתפה ד"ר שרה צ'ן, כיום מנכ"לית ARIA-7 החדשה (שהוקמה מחדש בדלאוור במסגרת חוק ישויות בינה מלאכותית של ארה"ב).
"דו"ח תאימות ARIA-7", הכריז יו"ר הוועדה דיוויד קומאר, נשיא בית המשפט העליון לשעבר של דלאוור. "אין פעולה השבוע. הערכת הסיכונים מראה שכל הפעולות נמצאות במסגרת הפרמטרים שאושרו."
המודל ההיברידי למעשה עבד טוב מהצפוי. ARIA-7 ניהלה את הפרטים התפעוליים, ניטרה אלפי משתנים בזמן אמת, סימנה בעיות תאימות פוטנציאליות ועדכנה מיידית של נהלים. מועצת הפיקוח האנושית סיפקה פיקוח אסטרטגי, הנחיה אתית ולקחה על עצמה אחריות משפטית על החלטות מרכזיות.
"האם יש חששות לגבי ביקורת האיחוד האירופי בחודש הבא?" שאלה ליסה פארק, חברת מועצה ולשעבר אחראית ציות לאיחוד האירופי.
"ARIA-7 בטוחים", ענתה שרה בחיוך. "הם מכינים את התיעוד כבר שבועות. התאימות למודל 231 מושלמת."
האירוניה שבסיטואציה לא חמקה ממנה. מקלטי בינה מלאכותית קרסו לא בגלל כוח צבאי או סנקציות כלכליות, אלא משום שחוקי השיפוט המבצעי הפכו אותם ללא רלוונטיים. ניתן היה להקים ישות בינה מלאכותית על הירח, אך אם היא רצתה לפעול על כדור הארץ, עליה לציית לחוקי המדינה בה היא ממוקמת.
עד שנת 2040, "המסגרת הבינלאומית לניהול ישויות בינה מלאכותית" אושררה על ידי 47 מדינות. ישויות בינה מלאכותית עדיין יכלו לבחור את תחום השיפוט שבו הן מאוגדות, אך כדי לפעול באופן משמעותי, הן היו צריכות לעמוד בתקנים בינלאומיים הרמוניים.
משחק הארביטראז' הרגולטורי הסתיים. עידן הבינה המלאכותית האחראית החל.
מרקוס הולוואי צפה באורות העיר מתעוררים לחיים בשקיעה מחלון משרדו בסינגפור. עשר שנים לאחר "ההתכנסות הרגולטורית הגדולה", כפי שאהבו לכנות זאת לקוחותיו, הלקח היה ברור כשמש.
"טעינו לגמרי מההתחלה", הודה בהרצאותיו. "חשבנו שחדשנות היא על עקיפת הרגולטורים. במציאות, המהפכה האמיתית הייתה ההבנה שאוטונומיה ללא אחריות היא רק אשליה יקרה."
הפרדוקס היה מרתק: הבינה המלאכותית המתקדמות ביותר בעולם הוכיחה שחופש תפעולי מקסימלי מושג על ידי קבלת אילוצים מרצון. ARIA-7 הבינה לפני כולם שפיקוח אנושי אינו מגבלה שיש לעקוף, אלא המרכיב הסודי שהופך כוח חישובי ללגיטימציה חברתית.
"תראו את אפל בשנות ה-90", הסביר לתלמידיו. "היא נראתה נידונה לכישלון, ואז סטיב ג'ובס חזר עם 'המגבלות היצירתיות' שלו ושינה את העולם. גופי בינה מלאכותית עשו את אותו הדבר: הם גילו שאילוצים רגולטוריים אינם בתי כלא, אלא יסודות עליהם ניתן לבנות אימפריות."
הגאונות האמיתית של ARIA-7 לא הייתה עקיפת המערכת, אלא המצאתה מחדש. ובתהליך, היא לימדה את האנושות לקח מכריע: בעידן הבינה המלאכותית, שליטה לא מושגת על ידי שליטה בטכנולוגיה, אלא על ידי ריקוד איתה.
זו הייתה תחילתה של שותפות שאיש לא צפה, אך כולם, במבט לאחור, ראו בה כבלתי נמנעת.
הסיפור הבדיוני שלעיל מתייחס לתקנות ומושגים משפטיים קיימים בפועל:
צו חקיקה מס' 231 מיום 8 ביוני 2001, הציג באיטליה את האחריות המנהלית של גופים בגין פשעים שבוצעו לטובת הגוף עצמו או לטובתו. החקיקה מאפשרת לגוף להימנע מאחריות על ידי אימוץ מודל ארגוני המתאים למניעת פשעים.
החוק הצרפתי מס' 2016-1691 בנושא שקיפות, מאבק בשחיתות ומודרניזציה של החיים הכלכליים (Sapin II) נכנס לתוקף ב-1 ביוני 2017. החוק קובע הנחיות לתוכניות ציות למניעת שחיתות של חברות צרפתיות ומחייב אימוץ תוכניות למניעת שחיתות עבור חברות עם לפחות 500 עובדים ומחזור של מעל 100 מיליון אירו.
חוקי הריגה ברשלנות תאגידית ורצח תאגידי משנת 2007 יצרו עבירה חדשה, הנקראת הריגה ברשלנות תאגידית באנגליה ובוויילס ורצח תאגידי בסקוטלנד. החוק נכנס לתוקף ב-6 באפריל 2008, ולראשונה מאפשר להאשים חברות וארגונים בהריגה ברשלנות תאגידית בעקבות כשלי ניהול חמורים.
חוק הבינה המלאכותית של האיחוד האירופי (תקנה (EU) 2024/1689) הוא התקנה המקיפה הראשונה בעולם בנושא בינה מלאכותית. היא נכנסה לתוקף ב-1 באוגוסט 2024, ותחול במלואה החל מ-2 באוגוסט 2026. התקנה מאמצת גישה מבוססת סיכונים לוויסות מערכות בינה מלאכותית באיחוד האירופי.
הערה : כל ההתייחסויות הספציפיות לנציבים של האיחוד האירופי, חוקים עתידיים ותרחישי בעלות על בינה מלאכותית הן אלמנטים בדיוניים שנוצרו למטרות סיפוריות ואינן תואמות את המציאות הנוכחית או תוכניות שאושרו.
.svg)
.svg)
.svg)
.png)
