משחר ההיסטוריה חיפש האדם לייצר כלים שיסייעו לו במלאכתו ויקלו את חייו. מאבני הצור עמן חתך את מזונו, דרך החץ והקשת שאפשרו לו לצוד ביתר יעילות, הפטישים שאפשרו לפסל את יצירות האמנות המרהיבות של הרנסנס ועד המחשב, המכיל מידע שפעם אכלס בניינים שלמים, עליו נכתבות שורות אלה מבלי ללכלך את הידיים בדיו – הדחף לשכלל ולשפר את הטכנולוגיה הזין ואפשר את עצמו במשך רבבות שנות קיומה של האנושות.

לא יפגע רובוט לרעה בבן אדם, ולא יניח, במחדל, שאדם יפגע – החוק ה-1 של הרובוטיקה (אייזק אסימוב)

ההתפתחות הטכנולוגית הזאת וההזדמנויות שהיא יצרה הזינו את דמיונם של האנשים ובאו לידי ביטוי לאורך הדורות בסיפורי עמים, באגדות וביצירות התרבות. כך נכנסו לילקוט היצירה האנושית גם דמויות כמו הגולם מפראג, המפלץ של פרנקנשטיין והרובוט הראשון, פרי עטו של הסופר הצ'כי קארל צ'אפק שב-1920 טבע את המונח המבוסס על המילה הצ'כית "רובוטה" שמשמעותה עבדוּת או עבודת פרך.

המשותף לכולם הוא שבבסיסם חומר שאין בו חיים (או שכבר אין בו חיים במקרה של היצירה של פרנקנשטיין) ואלה הוחדרו בו או הוחדרו בו מחדש כדי שהכלי המונפש יבצע את משימתו לטובתו של האדם שאחראי לכך. בספרות רוב המקרים באים עם אזהרה וחשש מפני משחקם של בני האדם בתחום השמור לאלים – מתן חיים.

לאורך המאות ה-20 וה-21 הטכנולוגיה שנראתה לקארל צ'אפק, חולם מבריק ככל שהיה, דמיונית ומופרכת הולכת וקורמת עור וגידים, או ליתר דיוק פולימרים ובוכנות הידראוליות. יותר מכך, הטכנולוגיה הולכת והופכת זמינה יותר ויותר למשק הבית הממוצע ולא רק ליחידי סגולה. המציאות הזאת, בה כבר בבתים לא מעטים ישנם רובוטים, אמנם מוגבלים ביכולותיהם אך מתקדמים בהרבה ממה שניתן היה לתאר לפני אך מספר שנים, מחייבת את האנושות וקברניטיה לעשות חושבים ולשקול כראוי את רוחב היריעה של המציאות החדשה שהטכנולוגיה הזמינה הזאת יוצרת.

המחשב HAL מתוך הסרט '2001 אודיסאה בחלל' (באדיבות yes)

בדיוק לשם כך התכנסו בתחילת השנה נציגי תת-הוועדה לענייני חקיקה של הפרלמנט האירופאי על מנת לגבש המלצות לחקיקה שיתקבלו באיחוד האירופאי לקראת כניסתם המאסיבית לחיינו של רובוטים ומכשירים עם בינה מלאכותית. כבר בשנות ה-40 של המאה ה-20 קבע הסופר אייזק אסימוב את שלושת חוקי הרובוטיקה שיועדו להיות מתוכנתים לתוך כל רובוט ונועדו להגן על המין האנושי:

  1. לא יפגע רובוט לרעה בבן אדם, ולא יניח, במחדל, שאדם יפגע.
  2. רובוט חייב לציית לפקודותיו של אדם, כל עוד אינן סותרות את החוק הראשון.
  3. רובוט ידאג לשמור על קיומו ושלמותו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני.

על אלה התווסף "חוק האפס" הקובע גם את מחוייבותו של הרובוט להגן על האנושות ככלל ולא רק על האדם היחיד. בפועל, בעוד שהחוקים האלה מהווים בסיס מחשבתי למחוקקים כיום, לא בטוח שהם מצליחים לכסות את מגוון התרחישים שהמציאות העכשווית והעתידית תזמן להם. מספר דוגמאות:

יחסי עבודה

כניסתם ההולכת וגוברת של רובוטים לעולם העבודה טומנת בחובה פוטנציאל עצום לשחרור האדם, במיוחד ממלאכות קשות פיזית, מונוטוניות, משעממות ואף מסוכנות. אולם בפועל, בשיטה הכלכלית הנהוגה בעולמנו כיום, כניסתם של הרובוטים לעולם העבודה מהווה איום ממשי על ציבור העובדים שייתכן וימצא את עצמו מוחלף בתוך מספר שנים ברובוטים זולים ומשוללי זכויות כששוק העבודה וההכשרה המקצועית גם יחד לא ערוכים לספק עבודות חלופיות או להכשיר לעבודות שכאלה.

רובוטים מרתכים במפעל מכוניות (צילום: shutterstock)

במצב הזה, יילכו ויעמיקו הפערים בין מעמד בעלי הרובוטים לבין ציבור העובדים, כעת משוללי עבודה ואם כבר כיום מדברים על שחיקתו של מעמד הביניים בקפיטליזם המודרני, תהליך זה, בעתיד הלא מפוקח של התפתחות הרובוטים עשוי להחמיר לאין ערוך.

רובוט חייב לציית לפקודותיו של אדם, כל עוד אינן סותרות את החוק הראשון – החוק ה-2 של הרובוטיקה (אייזק אסימוב)

הוועדה התייחסה לסוגיה זו ובין היתר נכתב בהמלצותיה כי "חרף היתרונות הבלתי ניתנים לערעור של תחום הרובוטיקה, הטמעתו עשויה לחולל מהפך בשוק העבודה ומעלה צורך בשיקוף ההשלכות על תחום החינוך, התעסוקה והמדיניות החברתית בהתאם", ובהמשך כי "האוטומציה מחייבת את הממשלות להשקיע בחינוך וברפורמות נוספות על מנת לשפר את ההשמה מחדש באמצעות הכישורים להם יזדקקו העובדים בעתיד". הוועדה אף התייחסה למציאות בה שוק עבודה שהולך ומוחלף על-ידי רובוטים הוא כזה בו קרנות הפנסיה יילכו ויישחקו כשמצד אחד, עובדים המפרישים לקרנות יילכו ויתמעטו ומצד שני, שיפורים ברפואה ובאיכות החיים מאריכים את תוחלת החיים ומגדילים את התלות בקרנות הפנסיה ההולכות ומדלדלות. גם כאן, מדובר בסך הכל בהקצנה של תהליך שכבר מוכר לעולם המערבי.

שואב אבק רובוטי (צילום: shutterstock)

חבוּת משפטית

אם כיום מתרחשת תאונת דרכים למשל, ניתן לקבוע מבחינה משפטית את אשמת המעורבים בדבר החל מהיצרן של כלי הרכב, דרך מערך התחזוקה וכלה בנהג או יתר המעורבים בתאונה. מה קורה כשלרכב יש יכולת קבלת החלטות משל עצמו המבוססת על תהליכי עיבוד מידע, למידה והסקת מסקנות לה הוא מסוגל כחלק מהאינטליגנציה המלאכותית שלו? הדבר מעלה כמובן שאלות במישור המוסרי אך גם במישור המשפטי: האם הבעלים של הרובוט אשם בעבירת תנועה שהוא ביצע? האם זה היצרן? אולי זה בכלל הרובוט עצמו, קביעה שמובילה לעולם שלם של שאלות על היכולת של חפץ להיות יישות משפטית.

רובוט ידאג לשמור על קיומו ושלמותו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני – החוק ה-3 של הרובוטיקה (אייזק אסימוב)

לגורם האנושי כבר התרגלנו

זה מוזר לטעון את זה במציאות בה מאות אנשים נהרגים בכל שנה בכביש בתאונות דרכים, כשבקרוב ל-90% מהמקרים זה קורה בגלל "הגורם האנושי", אבל רבים הם האנשים החוששים מהיום בו רובוטים ינהגו את המכוניות שלנו ויקבלו החלטות במהירות של שבריר שניה ובהתבסס על שיקולים חישוביים טהורים, ולא על הצורך בדיוק עכשיו להשתמש בחגורת הבטיחות בתור דמוי גיטרה חשמלית בסולו מרשים במקום להיות מרוכז לגמרי בנהיגה (כולנו היינו שם). בהיבט האתי של זה, נראה כי יותר קל לבני האדם לקבל מציאות בה תאונות פשוט קורות מאשר מציאות בה תאונות יקרו בכמות קטנה בהרבה אבל בעקבות החלטה שקיבל רובוט אחרי חישוב מושכל בו נקבע למשל כי יותר נכון לפגוע באדם א' מאשר באדם ב'. אגב, את החוקים של אסימוב זה לא היה עובר.

אדם מוזר הוא האויב שלך

דמיינו צבא של רובוטים. עכשיו דמיינו שניים כאלה, או יותר. אם עד עכשיו עמד לנגד עיניהם של מנהיגים הצורך לתת דין וחשבון לבוחרים, לבני המשפחות של החיילים או פשוט לצו מצפונם, הפיתוחים בתחום הרובוטי מקרבים את היום בו מלחמות יתנהלו ללא מעורבות ישירה של בני אדם. זה עשוי להישמע כמו התפתחות חיובית אבל אם רגע עוצרים וחושבים על זה, האם זה השחרור של האנושות לו ייחלנו?

הטרמינייטור מתוך הסרט 'שליחות קטלנית 2' (באדיבות yes)

בעוד שכבר כיום קיימת מידה הולכת וגוברת של רובוטיקה ואוטומציה בשדה הקרב, בעיקר בתחום הסיור האווירי והרכוב, נשמרת מידת שיקול הדעת של האדם המפעיל את הרובוט וההחלטה על הלחיצה על ההדק נמצאת בידיו. גם לכך התייחסה הוועדה וקבעה כי "בייצור רובוטים חמושים יש לשמור תמיד על עקרונות מוסריים, זכויות אדם, מידתיות, אחריוּתיוּת, שקיפות, הגנה על אזרחים ונקיטת כל המאמצים למניעת פגיעה לא מכוונת או פגיעה באזרחים תוך שהשליטה והאחריות הסופיים נמצאים בידיים אנושיות". עוד ממליצה הוועדה להימנע לחלוטין מפיתוח, ייצור והפצה של כלי נשק בעלי רמת אוטונומיה מוחלטת וקוראת לכינון אמנות בינלאומיות הפועלות למניעה גורפת של פיתוח כלי נשק שכאלה.

לא יפגע רובוט לרעה באנושות ולא יניח, במחדל, שהאנושות תיפגע – חוק ה-0 של הרובוטיקה (אייזק אסימוב)

לא דיברנו עוד על אהבה

שהות ממושכת של בני אדם במחיצת מכונות אינטליגנטיות עם יכולת שיחה שחורגת רק מאוצר מילים מוגבל ומענה קבוע לתחום שאלות מוכתב מראש הוא כאב ראש לא קטן כשלוקחים בחשבון את האפשרות שבני אדם יכולים לפתח רגשות כלפי עמיתיהם הרובוטים. רגשות אלה יכולים להיות חיובים או שליליים אבל קיים הפוטנציאל שהם יהיו עזים פי כמה מהרגשות שיש לנו כלפי המכשירים שלנו היום ובמיוחד עולה החשש מסיטואציות בהן מעורבות אוכלוסיות תלותיות במיוחד כמו ילדים, זקנים ואנשים עם מוגבלויות שעלולים למצוא את עצמם במעורבות רגשית לא בריאה כלפי מכונה.

פרטיות

"האינטרנט של הדברים" מזמֵן זה מכבר לא מעט בעיות ודילמות לאנושות וכשמשלבים לתוך זה את המציאות המתהווה בה יותר ויותר חפצים, כלי רכב ונותני שירותים יהיו בעלי מידה מוגברת של בינה מלאכותית, חיבור לרשת מידע מהירה וגישה זה לזה ולתיקים האישיים שלנו מתעוררת השאלה היכן עובר הגבול בין הצורך שלנו לפרטיות לבין היכולת של הטכנולוגיה למצות את מלוא יכולותיה ול"כלי העבודה" לשמש אותנו באופן המיטבי? לאחרונה התפרסם כי שואבי האבק של חברת iRobot מסוגלים למפות את בתי המשתמשים וכי החברה מתכננת למכור את המידע הזה לגורמים חיצוניים. כעת דמיינו עולם בו לרבים מהחפצים שלנו יש חיישנים (מצלמות, מקליטי קול ועוד), נפח אכסון מידע כמעט לא מוגבל וגישה מהירה לרשת. אכן מטריד. בוועדה של הפרלמנט האירופאי לא פסחו על הסוגייה והמליצו בין היתר כי יש לתכנת את הרובוטים לכבות את מצלמות הוידאו שלהם בסיטואציות אינטימיות וכי יש להבטיח, בייחוד ברובוטים המעורבים בעבודות הבית ובטיפולים רפואיים כי יישמרו כבודם ופרטיותם של בני האדם בכל עת.

ישנן כמובן עוד הרבה דילמות מוסריות, חברתיות, משפטיות ואחרות שעולות מסוגיית התעצמות הרובוטים בחיינו ועל חלקן ייתכן מאד שאיש עוד לא חשב (ואלי אף נעלה מאוחר מדי). טוב יעשו בני האדם אם ייערכו מבעוד מועד, הן ברמת המחשבה התיאורטית והן ברמת הכנת התשתית החברתית והחוקית ליום בו הרופא שיאבחן אותנו יהיה רובוט חביב בחלוק לבן.