בינה מלאכותית - חרב המתהפכת

[שאל: הרב מרדכי ציון]

ש: כיצד להתייחס לבינה מלאכותית? הרי היא עוזרת בתחום אגירת המידע, תחבורה אוטונומית יותר זולה ויותר בטוחה, רפואה ועוד?

ת: כל אלה כמובן דברים טובים. יחד עם זה, התשובה היא כבכל ענפי המדע. הם כלהט החרב המתהפכת. אפשר להשתמש לטוב ואפשר להשתמש לרע חלילה.

ש: איזה רע למשל?

ת: חדירה לחירות הפרט ופגיעה בפרטיותו. הוראות מוכתבות מלמעלה לאזרח, במה לעבוד ומה להצביע. תעמולה שקרית.

ש: אבל אפשר להיזהר מכל אלה?

ת: בודאי, אם יהיה פיקוח מוסרי. אך כרגע הוא לא קיים. למשל בסין, על אף חוקי האתיקה שלה בנידון, יש פגיעה בחירות ובפרטיות.

ש: זה מאוד מפחיד!

ת: יש יותר מפחיד: טיל גרעיני מחובר לבינה מלאכותית, וההחלטה בידיה, ללא התערבות אנוש. אסון יכול לקרוא. אכן היא מאוד מעורבת במירוץ החימוש.

ש: אבל יש יכולת בידי האדם לפקח מראש עד תום?

ת: זה לא מדוייק. הבינה גם תופסת יוזמות במידה מסוימת מתוך הרכבת אלגוריתמים שונים. היא גם עלולה לטעות, כמו שקרה כמה פעמים.

ש: למשל?

ת: הכללות לא צודקות צבועות גזענות כלפי חלקי אוכלוסיה מסוימים.

ש: אם כך, גם לקבוע משטרים?

ת: ליתר דיוק, להנציח מצבים של אי שוויון חברתי ואי צדק.

ש: אז אולי לשלול אותה לגמרי?

ת: מרן הרב קוק במאמרו "תום ומדע" (מאמרי הראיה), מברר שאין זה הפתרון. א. אי אפשר לעצור את המדע, אין זה מציאותי. ב. אלא יש להגביר את המוסריות והתמימות.

ש: אבל זה לא קורה. המידע רץ יותר מהר מההתקדמות המוסרית.

ת: נכון. בעיה זו נקראת אצל חוקרים באמריקה: הציוויליזציה הטכנו-ברברית. הטכנולוגיה מתפתחת, אך האדם נשאר ברברי, אז הוא נעשה מסוכן לאין ערוך יותר מאשר אם היה נשאר אדם לא מפותח טכנולוגית.

ש: אפשר לנחש מה יקרה?

ת: לא כל כך. אבל עלולים להופיע צרות נוראות שלא חלמנו עליהן.

ש: יש סיפור על פרנקנשטיין שיצר מפלצת שקמה על יוצרו.

ש: זה מדע בדיוני. אבל ייתכנו דברים יותר נוראיים, כגון השפעה מוסווית על החלטותינו.

ש: ובסיכום?

ת: אפשר לסכם: אובדן האנושיות. והתרופה העולמית היא הוספת טוב, הוספת מוסר, הוספת צדק, הוספת יושר. ואצלנו, הוספת טהרה, הוספת קדושה.