מהפכת המכוניות האוטונומיות כבר כאן. המכניזם של הטכנולוגיה כמעט הושלם, והעולם מבין שזה רק עניין של זמן עד שנראה, כדרך קבע, על כבישי הארץ והעולם, מכוניות שנוהגות בכוחות עצמן. המהפכה הטכנולוגית הזאת מעלה סוגיה מאוד מהותית, שלא מקבלת מספיק ביטוי ציבורי- הסוגיה המוסרית. כשהעולם יעבור לאוטומציה מלאה, מי יהיה זה שיקבל את ההחלטה הגורלית ברגעים קריטיים?

דמיינו לכם לרגע סיטואציה- נהג נוסע ברכב אוטונומי לחלוטין, ופתאום ילד קופץ לכביש בפתאומיות. ברגע זה ממש, באותו שבריר שנייה, הרכב האוטונומי צריך להחליט מה הוא עושה. האם הוא מסיט את ההגה הצידה ומסתכן בפגיעה בעוברי אורח אחרים? האם הוא בולם בחוזקה או סוטה לכיוון אחר שם נמצאים פחות גורמים פוטנציאליים לפגיעה? או בכלל פוגע ישירות בילד כי בהתאם לתנאי השטח סטייה מהירה מהכביש תגרום לפגיעה גדולה יותר בנפש וברכוש? כיצד יקבע המחשב מהי הפעולה הטובה ביותר לסיטואציה משברית נתונה? על כך לצערי עדיין אין מענה הולם.

ברור כי אין בדבריי כוונה לצאת בשום צורה כנגד התעשייה האוטונומית, ממש לא. אני מאמין כי על אף הסכנות הטמונות בהליך האוטומציה, מדובר בהתפתחות חיונית וטובה לאנושות כולה. ובכלל, קצרה היריעה מלפרט אודות היתרונות של מערכות אוטומטיות בתחום התחבורה, וכן בתחומים אחרים. אבל דבר אחד בטוח – מדובר בצעד חיוני ובלתי נמנע.

כל שנותר כעת הוא לדון באתגר המוסרי כבר עכשיו, כשהתחום עוד נמצא בשלבי צמיחה. על הגופים הטכנולוגיים אמנם מוטלת אחריות לתכנן מוצר שייתן פתרון אופטימלי. אך בד בבד עלינו לדאוג כי גורמים אינטרסנטיים לא ישתלטו על הליך קבלת ההחלטות של המוצר האוטומטי.

בבואו של הרכב האוטונומי להתמודד עם הסיטואציה שתיארתי בפסקאות הקודמות, גורמים קרים יכולים להחליט שעל הרכב לפגוע בגורם שייסב הכי פחות נזק כלכלי, מה שלא תמיד מתכתב עם התפישה המוסרית והנכונה. לעיתים זאת אף עלולה להיות החלטה שונה בתכלית ממה שאדם בשר ודם היה מקבל באותו רגע.

דווקא עכשיו, כשתחום האוטומציה מקבל ביטוי ציבורי רחב היקף, לפני הכל עלינו כצרכנים לעתיד לדרוש סטנדרט שיפוט נקי מאינטרסים. לכשהרובוט יצרך להתמודד עם המציאות הקשה הוא יחונך לעשות את הצעד הנכון ביותר לטובת האדם, לטובת צרכן הקצה.


נתי אברהמי הוא מנכ"ל חברת טלדור