הטמעה תמנע סכנה לאנושות כולה
אינשטיין לא ידע כמה נזק הגילוי הגאוני שלו יגרום, והיה נגד השימוש הצבאי בפצצת אטום.
לפעמים המדע תורם לאנושות יכולת להזיק לעצמה בצורה נוראה. אי אפשר להתעלם מגילוי שיכול להביא תועלת עצומה. מצד שני, השאלה החשובה במצבים כאלה היא מה בני אדם עושים עם הידע, ואיך מונעים בעיה וסכנה.
בינה מלאכותית ורובוטיקה זו דוגמה טובה ליכולת שימוש לרעה במדע.
במקום לעבוד בגינה, לבשל, לרחוץ כלים, לשיר שירים, לשאוב את השטיחים, לנקות בקופסה של החתולים, לחשב מיסים ולעשות כביסה, צבא של רובוטים חמושים שאינם אנושיים יכול ללכת בלי להתעייף ולכבוש מדינה שכנה.
ציטוט:
רובוטים דמויי אדם פתחו את השנה החדשה בסין.
באירוע ערב השנה החדשה בבייג’ינג צפו מאות מיליונים בהומנואידים מבצעים תרגילים מורכבים שהוכיחו עליונות טכנולוגית.
ציטוט:
לקרב המעצמות בין סין לארצות הברית מגייסים שחקנים חדשים, מתוחכמים יותר ואנושיים פחות – חברות הטכנולוגיה במרוץ לפיתוח חיילים-רובוטים. האמריקנים הציבו יעד שאפתני, בייג’ינג כבר החלה בהתנסויות אזרחויות.
צייטוט:
תיעוד מעורר אימה מסין: רובוט שמבוסס על בינה מלאכותית איבד שליטה ותקף את העובדים. התמונות הדרמטיות – והחשש שזה רק הפרומו למה שמצפה לנו בעתיד.
עד כאן ציטוט שמראה שלמכונות חסרה מוסריות ואנושיות.
אולי הטמעת שלושת חוקי הרובוטיקה של אייזיק אסימוב צריך להיות חובה לכול יצרני המכונות עם הבינה, אחרת תבוא לאנושות כולה סכנה גדולה.
ציטוט:
שלושת חוקי הרובוטיקה של אייזק אסימוב נוסחו בשנות ה-40 כדי להגדיר התנהגות בטוחה לרובוטים: 1) אסור לפגוע באדם או לתת לו להיפגע, 2) חובה לציית לבני אדם (אלא אם זה סותר את חוק 1), 3) חובה להגן על עצמם (אלא אם זה סותר חוקים 1-2). מאוחר יותר נוסף “חוק האפס” המגן על האנושות ככלל.
להלן פירוט חוקי הרובוטיקה:
- החוק הראשון: רובוט לא יפגע לרעה באדם, ולא יניח, במחדל, שאדם ייפגע.
- החוק השני: רובוט יפעל בהתאם לפקודות שיינתנו לו על ידי בני אדם, אלא אם פקודות אלו סותרות את החוק הראשון.
- החוק השלישי: רובוט יגן על קיומו שלו, ובלבד שהגנה זו אינה סותרת את החוק הראשון או השני.
- חוק האפס (נוסף מאוחר יותר): רובוט לא יפגע באנושות ככלל, או יאפשר לאנושות להיפגע.
חוקים אלו היוו בסיס עלילתי לסדרות סיפורים רבות של אסימוב, כפי שהוצגו באנתולוגיה “אני, רובוט” (1950), ונועדו למנוע מהבינה המלאכותית לפעול נגד יוצריה.
עד כאן ציטוט מהצעה שכדאי לקחת מאוד ברצינות.
ברגע שהמכונות יבינו שהן בעיקר רוצות חלקי חילוף וחשמל למען שרידותן, וילמדו לייצר את אלה לעצמן, יתכן שכבר לא נאלץ לשרת אותן, ואולי באותו הרגע מצבנו המיותר יהפוך לקצת מסוכן.
קישור לויקיפדיה. קישור ליוטיוב.
