חוקי הרובוטיקה החדשים

 

מאת יורם אורעד


לפני שנים רבות ניסח אייזק אסימוב - מגדולי סופרי המד"ב - חוקי רובוטיקה שמטרתם לאפשר חיים בטוחים בצוותא, של בני-אנוש עם רובוטים ומערכות אינטליגנציה מלאכותית.

 

לאחרונה הוצעו להשגת מטרה זאת ארבעה חוקים חדשים, כדי לעשות התאמה לתקופתנו. האם הדבר יפטור אותנו מהסכנות האפשריות מצד רובוטים והתקני אינטליגנציה מלאכותית? ומה כדאי לעשות בהמשך?

 

רובוטים ומערכות אינטליגנציה מלאכותית (AI - Artificial Intelligence) הם כיום חלק מן המציאות שלנו, ומשמשים בתעשייה, ברפואה, במערכות בינה מלאכותית - כגון 'סירי' של 'אפל', להפגת בדידותם של אנשים ועוד. בכדי לאפשר את פעולתם התקינה, ולהגן עלינו מפעולות לא רצויות או מסוכנות שהם עלולים לבצע, ניסח אסימוב ב-1942 שלושה חוקים, להם הוסיף מאוחר יותר את 'חוק האפס'.

 

אלה שלושת חוקי הרובוטיקה של אסימוב:

 

1 לא יפגע רובוט לרעה בבן-אדם, ולא יניח, בהימנעות מפעולה, שאדם יִיפָּגַע.

2 רובוט מחוייב לציית לפקודותיו של אדם, כל עוד אינן עומדות בסתירה עם החוק הראשון.

3 רובוט ישמור על קיומו ושלמותו, כל עוד זה אינו עומד בסתירה לחוק הראשון או השני.

 

'חוק האפס' אומר: לא יפגע רובוט לרעה באנושות ולא יניח, בהמנעות מפעולה, שהאנושות תיפגע. חוק זה גובר על החוקים 1,2,3 גם יחד. ארבעת החוקים האלה מבטיחים את שלום האנושות כולה, מעבר לשלומו של הפרט הבודד.

 

החוקים בנויים בצורה הדרגתית, כך שאף חוק אינו עומד בסתירה עם הקודם לו, שהוא תמיד חשוב יותר.

 

עקרונות רובוטיקה חדשים

הפרופסור למשפטים פרנק פסקוָ'אלֵה (Frank Pasquale), מומחה לבינה מלאכותית, טוען שעקרונותיו של אסימוב דורשים התאמה לימינו, בין היתר משום שלא תמיד חידושים והמצאות בתחום הרובוטיקה מועילים לאנושות. בגירסה של אסימוב החוקים מוטמעים בנחרצות ב"מוחות" הרובוטים עצמם ואי אפשר לגבור (override) עליהם או לעקוף אותם. לעומת זאת, החוקים שמציע פסקוָ'אלֵה מכוונים למתכנני ובוני הרובוטים ולמתווי מדיניות, ולא לרובוטים עצמם. אלה הם ארבעת החוקים החדשים שמציע פסקוָ'אלֵה:

 

חוק ראשון חדש: אינטליגנציה מלאכותית צריכה להשלים את המומחים ולא להחליפם. השימוש  

     באוטומציה בתחומים שונים גדל אמנם במהירות, אבל הסמכות בעבודות שכרוכה בהן בחירה

     צריכה להישאר בידי בני-אדם. למשל, בהוראה וברפואה יש צורך להסביר ללקוחות את

     האפשרויות השונות, ולא לתת להם תוצאה אחת ואחידה, שתוחלט כטובה ביותר על ידי ישות  

     אוטומטית.

 חוק שני חדש: מערכות רובוטיות ואינטליגנציה מלאכותית לא יזייפו אנושיוּת. סייעים "אנושיים"  

     כמו 'סירי', עלולים לשמש להונאת אנשים ולתמרוּן רגשות. אסור שמערכות כאלו יזייפו רגשות

     אנושיים. יש להגדיר באופן קשיח עד כמה האינטראקציות האנושיות עם רובוטים יהיו בלתי

     מורגשות, חלקות, ללא "תפרים" (seamless), ועד כמה יש צורך לשמור על הבדל בין רובוטים לבין     

     בני-אדם.

 חוק שלישי חדש: אסור שמערכות רובוטיות ואינטליגנציה מלאכותית, יגבירו את מרוץ החימוש.

     ההתפתחות הבלתי מבוקרת של מערכות נשק רובוטיות עלולה לצאת מכלל שליטה, וסביר להניח   

     שיתפתח מרוץ חימוש של מערכות המבוססות על אינטליגנציה מלאכותית.

 חוק רביעי חדש: מערכות רובוטיות ואינטליגנציה מלאכותיות מחוייבות לציין תמיד את זהות

     יוצריהן, מפעיליהן והבעלים שלהן. אלה חשובים להגברת האַחְרָיוּתִיּוּת (הנכונות לנטילת אחריות)

     ולהרתעה מפעילות בלתי הולמת בשימוש ברובוטיקה ובאינטליגנציה מלאכותית.

 

אז מה כדאי לעשות?

רובוטים והתקני אינטליגנציה מלאכותית תורמים לחיינו המון, אך גלומים בהם גם איומים, וסכנותיהם הפוטנציאליות עצומות. הם יצירי כפיהם של בני-אדם ובני-אדם הם המחליטים איך הם יפעלו ומה יעשו, לטוב או לרע. התאמות בדמות החוקים שהציע פרופסור פסקוָ'אלֵה, והתאמות אחרות, עשויות למנוע נזקים ואף קטסטרופות, מבלי לוותר על היתרונות העצומים של הרובוטים והאינטליגנציה המלאכותית. הדעת נותנת שהתאמות נוספות ותוספות שונות יתפתחו במהלך הזמן, וישתכללו בהתמדה על סמך הנסיון, בכדי למנוע נזק אפשרי על ידם ובכדי לנצלם טוב יותר ולטובה.

 

ההתאמות האלו יתעדכנו, מן הסתם, על פי צרכיה של האנושות בתקופות המשתנות. אי אפשר לחזות בבטחון לאן יתפתחו הישויות הטכנולוגיות השונות העומדות לשירותנו. יש הטוענים כי עם הזמן הן ירכשו לעצמן תודעה, רצונות, ואישיות משלהן. אם זה יקרה, הסכנות יהיו גדולות לאין ערוך מאלו של רובוטים ומערכות אינטליגנציה מלאכותית שאין להם את אלה. לפיכך, ההתמודדות הנכונה ביותר לדעתי, היא שילוב היכולות הטכנולוגיות שלהם בתוך בני-האדם - שמשמעותו מיזוג האדם עם המחשב. המיזוג הזה, בניגוד להפרדה בין האדם לישויות הטכנולוגיות, ייצור ישות אחת, שהאדם הוא בסיסה. כך תימנע התנגשות בין שני סוגי הישויות ותתאפשר התפתחות מיטיבה ומתמשכת של חברה המורכבת מישויות ממוזגות אלו, תוך שדרוג עצום של האדם, שיהיה בעצם מֶכָנוֹש (cyborg) - אדם מכונה.

 פורסם לראשונה בבלוג קסם הטכנולוגיה בתאריך 21.12.20 :
https://kesemhatechnologia.blogspot.com/?fbclid=IwAR2MS5E8fEZx32dJoAA6AcNpKhv3H7F3AeFd3OG6sXiVRy3cST1kRqpKtNA

 

חפש באתר
טואול - בניית אתרים