הקשר בין בינה מלאכותית לדמוקרטיה אינו ליניארי ואינו חד-כיווני, אלא מייצג רשת של כוחות סותרים המחזקים ומאיימים בו זמנית על יסודות התהליך הדמוקרטי.

‍

השינוי של האגורה הציבורית

בינה מלאכותית שינתה באופן עמוק את המרחב הציבורי שבו מתקיים דיון דמוקרטי. שינוי זה חורג הרבה מעבר לסוגיה הפשוטה של מידע שגוי. אנו עדים לפיצול של חוויית המידע הקולקטיבית, שהייתה היסטורית תנאי הכרחי לדמוקרטיות מודרניות.

‍

כאשר אזרחים שונים חיים במציאויות מידע שונות בתכלית, המובנות על ידי אלגוריתמים של המלצות, הבסיס המשותף הדרוש לדיאלוג דמוקרטי הולך לאיבוד.

‍

באופן פרדוקסלי, בעוד שבינה מלאכותית הגדילה את מקורות המידע הזמינים, היא גם שחקה את יכולתן של חברות דמוקרטיות להגיע לקונצנזוס לגבי מה מהווה "עובדה". שחיקה אפיסטמית זו מייצגת אתגר עמוק וערמומי יותר מהפצה פשוטה של חדשות כזב.

‍

הדילמה של כוח ומיכולת

דמוקרטיות ניצבות בפני דילמה מהותית: החלטות בנוגע לבינה מלאכותית דורשות מומחיות טכנית ספציפית ביותר, אך הפקדת החלטות אלו בידי מומחים באופן בלעדי מסירה אותן מהתהליך הדמוקרטי. עובדה זו חושפת מתח בלתי פתור בין העיקרון הדמוקרטי (החלטות המתקבלות על ידי ועבור אזרחים) לבין הצורך במומחיות ייעודית.

‍

מתח זה מחמיר עוד יותר בשל העובדה שמערכות בינה מלאכותית מורכבות יותר ויותר אינן גלויות לא רק לאזרחים מן השורה, אלא לעיתים גם למומחים המפתחים אותן. כיצד יכולה שליטה דמוקרטית לתפקד כאשר הכלים שהן אמורות לשלוט בהם מעבר להבנה האנושית?

‍

מיקרו-מיקוד פוליטי ותהליכי בחירות

מיקרו-מיקוד פוליטי באמצעות בינה מלאכותית הפך מתוחכם יותר ויותר בקמפיינים עכשוויים. מערכות בינה מלאכותית מנתחות מערכי נתונים עצומים של מצביעים כדי ליצור מסרים פוליטיים מותאמים אישית ביותר. Just Security

‍

מחקרים מראים שפרסומות פוליטיות המתמקדות באישיות, שנוצרות על ידי בינה מלאכותית, משכנעות הרבה יותר מתוכן גנרי. PubMed NIH

‍

היקף ויעילות הבינה המלאכותית מאפשרים לקמפיינים לייצר תוכן מותאם אישית עבור מיליוני מצביעים בו זמנית, מה שהופך את המיקרו-טירגוט להרבה יותר בר ביצוע וחסכוני מאי פעם. שיווק פוליטי CSET

‍

מחקרים אחרונים מראים שכלי קמפיין המופעלים על ידי בינה מלאכותית יכולים לזהות פגיעויות פסיכולוגיות אצל מצביעים ולנסח מסרים המנצלים מאפיינים אלה. OUP Academic TechInformed

‍

החששות הדמוקרטיים הם משמעותיים:

• הפוטנציאל למניפולציה מודגם על ידי מחקר המצביע על כך שמיקרו-מיקוד יכול לנצל פגיעויות פסיכולוגיות .
• בינה מלאכותית יכולה לתרום לקיטוב על ידי חשיפת מצביעים בעיקר לתוכן שתואם את דעותיהם הקיימות .
• מצביעים בדרך כלל אינם מודעים לכך שהם מקבלים תוכן פוליטי מותאם אישית SF Gate TechInformed
• קמפיינים ממומנים היטב עשויים להשתמש בכלי בינה מלאכותית מתוחכמים יותר, דבר שעלול ליצור פערים בהשפעה פוליטית. סן פרנסיסקו גייט, ברנסנטר.

מערכות הצבעה ותשתיות בחירות מושפעות גם הן מבינה מלאכותית, הן בדרכים חיוביות והן בדרכים שליליות:

• בינה מלאכותית יכולה לשפר את אבטחת הבחירות על ידי זיהוי אנומליות וניטור תשתיות לאיתור הפרעות פוטנציאליות. מכון R Street Brookings
• ניהול בחירות יכול להיות יעיל יותר הודות לבינה מלאכותית שמייעלת תהליכים כמו אימות רישום בוחרים (Cisa Brookings).
• עם זאת, בינה מלאכותית מציגה גם סיכונים כגון התקפות פישינג מתוחכמות יותר, זיופים עמוקים של דיסאינפורמציה על בחירות וקמפיינים אוטומטיים של דיסאינפורמציה בקנה מידה גדול. Sophos News + 3

‍

השתתפות דמוקרטית ומעורבות אזרחית

בינה מלאכותית מציעה הזדמנויות ואתגרים להשתתפות דמוקרטית:

השפעות חיוביות

• גישה משופרת למידע אזרחי : כלי בינה מלאכותית יכולים לפשט מידע ממשלתי מורכב IEEE Brookings
• אספקה טובה יותר של שירותים ציבוריים : מערכות מבוססות בינה מלאכותית יכולות לנתח נתונים אזרחיים כדי לסייע לממשלות להגיב בצורה יעילה יותר לצורכי האזרחים. Nextcity + 2
• כלי השתתפות מורחבים : פלטפורמות כמו Pol.is משתמשות בבינה מלאכותית כדי לנתח את קלט הציבור בקנה מידה גדול ECNL Brookings
• צמצום חסמים להשתתפות : שירותי תרגום מבוססי בינה מלאכותית יכולים לאפשר השתתפות אזרחית רב-לשונית ECNL ברוקינגס

השפעות שליליות

• מניפולציה של מידע : תוכן שנוצר על ידי בינה מלאכותית יכול לשמש להפצת מידע שגוי ברנן סנטר ברוקינגס
• הגברת הטיות קיימות : מערכות בינה מלאכותית שאומנו על נתונים מוטים יכולות להנציח ולהגביר אי שוויון בהשתתפות אזרחית ברנן סנטר ברוקינגס
• סוכנות אנושית מופחתת : הסתמכות יתר על קבלת החלטות אלגוריתמית בממשל עלולה לפגוע בשיקול הדעת והאחריות האנושית.
• החמרת הפער הדיגיטלי : גישה לא שוויונית לטכנולוגיות אזרחיות המונעות על ידי בינה מלאכותית עלולה להעמיק את פערי ההשתתפות הקיימים Aiworldtoday + 2

‍

ארגון מחדש של יחסי הכוחות

בינה מלאכותית לא רק משנה את אופני הדיון הדמוקרטי; היא משנה באופן עמוק את יחסי הכוח בתוך חברות. שליטה בתשתיות בינה מלאכותית מייצגת כיום סוג של כוח דומה, אם לא עדיף, על זה שמבוצע באופן מסורתי על ידי מוסדות דמוקרטיים כמו פרלמנטים.

‍

אנו עדים לשינוי בסמכות קבלת ההחלטות ממוסדות ציבוריים הכפופים לשליטה דמוקרטית לגופים פרטיים הפועלים על פי היגיון שונה. נדידת סמכות זו מתרחשת לעתים קרובות באופן בלתי נראה, באמצעות האצלה הדרגתית של החלטות למערכות אוטומטיות הפועלות על פי פרמטרים שאינם תמיד שקופים או מבוססים באופן דמוקרטי.

‍

הגדרה מחדש של השתתפות דמוקרטית

בינה מלאכותית משנה את עצם תפיסת ההשתתפות הדמוקרטית. מצד אחד, היא מציעה כלים לצורות ישירות ומשתפותיות יותר של דמוקרטיה; מצד שני, היא מציגה חסמים קוגניטיביים וטכנולוגיים חדשים לגישה. בתהליך זה, גם ערך הדעה האישית מוגדר מחדש: בהקשר של התאמה אישית אלגוריתמית גוברת, כיצד ניתן להבחין בין העדפות אישיות אותנטיות לבין אלו הנגרמות על ידי מערכות המלצה?

‍

אמביוולנטיות זו ניכרת גם במערכות דיון בסיוע בינה מלאכותית: הן יכולות להפוך תהליכי קבלת החלטות מורכבים לנגישים יותר, אך הן גם מסתכנות בפישוט יתר של נושאים הדורשים התבוננות ציבורית מעמיקה יותר.

‍

המטמורפוזה של מוסדות דמוקרטיים

מוסדות דמוקרטיים מסורתיים, שנוצרו בעידן טרום-דיגיטלי, מתקשים להסתגל למהירות שכופה החדשנות הטכנולוגית. חוסר הסנכרון הזמני הזה בין האבולוציה המהירה של הבינה המלאכותית לבין הקצב האיטי יותר של תהליכים דמוקרטיים יוצר ואקום ממשלתי שעלול להתמלא על ידי מנגנוני קבלת החלטות לא דמוקרטיים.

‍

האתגר אינו רק לווסת את הבינה המלאכותית באמצעות המוסדות הקיימים, אלא לחשוב מחדש על מוסדות אלה כדי שיתאימו לעידן שבו בינה מלאכותית הופכת למרכזית יותר ויותר בתהליכים חברתיים, כלכליים ופוליטיים.

‍

תפיסה חדשה של אזרחות בעידן הבינה המלאכותית

כדי להתמודד עם אתגרים אלה, עלינו לפתח תפיסה חדשה של אזרחות דמוקרטית שתשלב מודעות לתפקידה של הבינה המלאכותית. זה דורש התגברות הן על האופטימיות הטכנולוגית הנאיבית הרואה בבינה המלאכותית רק הזדמנות לשיפור דמוקרטי, והן על הפסימיות הרואה בה אך ורק איום.

‍

במקום זאת, זה דורש פיתוח אוריינות אזרחית הכוללת את היכולת להעריך באופן ביקורתי את השפעתם של אלגוריתמים, להשתתף באופן משמעותי בדיונים בנושאים טכנולוגיים מורכבים, ולדרוש שקיפות ואחריותיות מאלה המפתחים ומיישמים מערכות בינה מלאכותית בעלות השפעה חברתית משמעותית.

‍

בסופו של דבר, הקשר בין בינה מלאכותית לדמוקרטיה אינו נקבע מראש על ידי הטכנולוגיה עצמה, אלא יהיה תלוי ביכולת הקולקטיבית שלנו לדמיין ולבנות מוסדות, נורמות ונהלים המאפשרים לכוון את הפיתוח הטכנולוגי לחיזוק ולא לשחיקה של ערכים דמוקרטיים בסיסיים.

‍

שאלות נפוצות על בינה מלאכותית ודמוקרטיה

‍

כיצד בינה מלאכותית יכולה לחזק את ההשתתפות הדמוקרטית?

בינה מלאכותית יכולה לשפר את ההשתתפות הדמוקרטית על ידי הפיכת מידע ממשלתי לנגיש יותר, מתן אפשרות להשתתפות רב-לשונית, ניתוח קלט הציבור בקנה מידה גדול והתאמה אישית של חוויות מעורבות אזרחית. אירועי IEEE OECD לדוגמה, שירותי תרגום משופרים על ידי בינה מלאכותית יכולים לאפשר למיעוטים לשוניים להשתתף באופן מלא יותר בתהליכים דמוקרטיים, בעוד שכלי ניתוח נתונים יכולים לסייע לממשלות לזהות ולטפל באי-שוויון במתן שירותים ציבוריים. Nextcity + 2

‍

מהם הסיכונים המדאיגים ביותר של בינה מלאכותית עבור מערכות דמוקרטיות?

הסיכונים המשמעותיים ביותר כוללים: התפשטות של דיסאינפורמציה משכנעת וזיופים עמוקים המערערים עובדות מקובלות; מניפולציה באמצעות תוכן פוליטי ממוקד מיקרו; הטיות אלגוריתמיות המדירות קבוצות מסוימות מתהליכים דמוקרטיים; ופגיעויות אבטחה בתשתיות בחירות. כתבי עת של Sage + 5 מחקרים מראים כי סיכונים אלה אינם תיאורטיים בלבד - מחקרים מתעדים את כוח השכנוע של תוכן פוליטי שנוצר על ידי בינה מלאכותית המותאם אישית על סמך פרופילים פסיכולוגיים אינדיבידואליים. PubMed + 2

‍

כיצד ממשלות יכולות לווסת את בינה מלאכותית בקמפיינים פוליטיים?

גישות רגולטוריות יעילות כוללות: דרישות גילוי חובה עבור תוכן פוליטי שנוצר על ידי בינה מלאכותית; מגבלות על סוגי הנתונים האישיים שניתן להשתמש בהם למיקרו-מיקוד פוליטי; מנגנוני פיקוח עצמאיים לניטור מערכות בינה מלאכותית בקמפיינים; ויוזמות חינוך ציבורי להגברת מודעות הבוחרים לטכניקות שכנוע משופרות על ידי בינה מלאכותית. PBS+4 חוק הבינה המלאכותית של האיחוד האירופי מספק דוגמה למסגרת רגולטורית מבוססת סיכון המתייחסת ספציפית לשימוש בבינה מלאכותית בתהליכים דמוקרטיים. אירופה+2

‍

איזה תפקיד צריך להיות לאזרחים בניהול בינה מלאכותית?

לאזרחים צריכות להיות הזדמנויות משמעותיות לעצב את ניהול הבינה המלאכותית באמצעות מנגנונים משתפים כגון אסיפות אזרחים, התייעצויות ציבוריות ותהליכי מעורבות מתמשכים של בעלי עניין. מחקר של ברוקינגס מראה כי שיתוף בעלי עניין מגוונים לאורך מחזור החיים של הבינה המלאכותית מוביל למערכות אמינות יותר המשקפות טוב יותר ערכים חברתיים. מכון Adalovelace + 13 מודלים מוצלחים כמו אמנת הנתונים של קמדן מדגימים כיצד השתתפות אזרחית יכולה לבסס מסגרות אתיות לשימוש בבינה מלאכותית בשירותים ציבוריים. OECD

‍

כיצד נוכל להגן על תשתיות הבחירות מפני איומים מבוססי בינה מלאכותית?

אסטרטגיות הגנה כוללות: יישום אמצעי אבטחת סייבר חזקים כגון אימות רב-גורמי; הכשרת פקידי בחירות לזהות ניסיונות פישינג משופרים על ידי בינה מלאכותית; פיתוח מערכות לזיהוי וטיפול במידע שגוי שנוצר על ידי בינה מלאכותית בנוגע להצבעה; ביסוס תהליכי אימות לתקשורת רשמית של בחירות; ויצירת מערכות מיותרות לתשתיות בחירות קריטיות. ABC News + 2 סוכנות אבטחת הסייבר והתשתיות (CISA) מספקת הנחיות ספציפיות לפקידי בחירות בנוגע להפחתת סיכוני בינה מלאכותית. Cisa Cisa

‍

כיצד בינה מלאכותית יכולה לשנות את היחסים בין אזרחים לממשלה?

בינה מלאכותית יכולה לשנות את יחסי האזרחים-ממשלה על ידי מתן אפשרות לשירותים ציבוריים מותאמים אישית יותר, יצירת ערוצים חדשים להשתתפות אזרחית, אוטומציה של פונקציות ממשלתיות מסוימות, ושינוי פוטנציאלי בדינמיקת הכוח במערכות דמוקרטיות. Eff OECD כיוון השינוי הזה תלוי במידה רבה בבחירות ממשל - האם בינה מלאכותית מיושמת בדרכים המשפרות את האחריות הדמוקרטית או מרכזים כוח במערכות טכניות עם פיקוח מוגבל. ScienceDirect + 2

איזה שיתוף פעולה בינלאומי נדרש לממשל בינה מלאכותית בהקשרים דמוקרטיים?

שיתוף פעולה בינלאומי חיוני לקביעת סטנדרטים משותפים, מניעת פיצול רגולטורי, התמודדות עם ההשפעות חוצות הגבולות של בינה מלאכותית וקידום יישור קו סביב ערכים דמוקרטיים בפיתוח בינה מלאכותית. OECD + 2 עקרונות הבינה המלאכותית של ה-OECD מייצגים מודל לתיאום בינלאומי, המספקים מסגרת משותפת שאומצה על ידי 47 תחומי שיפוט ברחבי העולם תוך מתן גמישות ליישום לאומי. OECD Brookings

‍

כיצד נוכל להבטיח שבינה מלאכותית תועיל לדמוקרטיה ולא תפגע בה?

הבטחת תועלת הדמוקרטיה באמצעות בינה מלאכותית דורשת: מסגרות ממשל פרואקטיביות ומבוססות ערכים; דרישות שקיפות והסבר משמעותיות; גישות משתפות לפיתוח ורגולציה של בינה מלאכותית; השקעות באוריינות דיגיטלית; הגנה על זכויות יסוד ביישומי בינה מלאכותית; ומנגנונים להעמדת מערכות בינה מלאכותית ומפתחיהן לדין וחשבון. Eff+4

ראיות מצביעות על כך שגישות של ממשל צופה עתיד יעילות יותר מרגולציה תגובתית. OECD Brookings

‍

מַסְקָנָה

בינה מלאכותית מציגה הזדמנויות ואתגרים משמעותיים כאחד עבור מערכות דמוקרטיות גלובליות. הסקירה המקיפה שלנו מציעה מספר מסקנות מרכזיות:

1. האבולוציה הטכנולוגית נמשכת : כלי בינה מלאכותית ליצירה והפצה של דיסאינפורמציה הופכים מתוחכמים ונגישים יותר, ודורשים ערנות מתמדת ותגובות אדפטיביות. דיאלוג פוליטי
2. ההשפעה היא הקשרית : ההשפעה של דיסאינפורמציה משופרת על ידי בינה מלאכותית משתנה באופן משמעותי בהקשרים חברתיים, פוליטיים ותקשורתיים, כאשר חלק מהחברות מוכיחות כעמידות יותר מאחרות. הוושינגטון פוסט + 2
3. פתרונות דורשים שיתוף פעולה : תגובות יעילות לדיסאינפורמציה מבוססת בינה מלאכותית דורשות שיתוף פעולה רב-בעלי עניין בין חברות טכנולוגיה, ממשלות, החברה האזרחית ואזרחים. Acigjournal + 4
4. שיקול דעת אנושי נותר חיוני : למרות ההתקדמות במערכות גילוי בינה מלאכותית, חשיבה ביקורתית אנושית ואוריינות תקשורתית נותרות ההגנה האולטימטיבית מפני מידע שגוי מתוחכם. Vt AARP
5. נדרשת הבנה מעמיקה : מעבר לפתרונות טכנולוגיים, התמודדות עם מידע שגוי משופר על ידי בינה מלאכותית דורשת התייחסות לקיטוב חברתי בסיסי, אתגרי מערכת אקולוגית תקשורתית ופערים בחינוך אזרחי. טיילור ופרנסיס נייצ'ר