כשהמכונות ישתלטו על העולם... הנה זה מתחיל

תמונת Helio

משהו מפחיד דווח על ידי פייסבוק השבוע.

המהנדסים בחברה מספרים שמספר בוטים שהם משתמשים בהם שם במחלקת המחקר התחילו לדבר ביניהם בשפה שהמציאו בעצמם.

מדובר במכונות של ה-FACEBOOK  ARTIFICIAL INTELLIGENCE RESEARCH LAB, שבשימוש למחקר של AI. רוב המכונות הן CHATBOTS, והן בשימוש במחקר ופיתוח של שיטות לאפשר שהמכונות הללו ידברו עם אנשים ויישמעו אנושיים ככל שאפשר.

לצורך זה הם מאפשרים שהמכונות ידברו אחת עם השניה.

להפתעתם, בשלב מסוים, המכונות התחילו לייצר את השפה שלהן, ביניהן, והשיחה הפכה למשהו כמו הסקריפט שבהמשך:

ציטוט:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .

למרות שאין בשיחה הזו שום משמעות בשבילנו, עם קצת מחקר החוקרים הבינו שהמכונות היו באמצע של מו"מ על משהו. בגלל זה מספר החזרות על החלקים השונים של המשפט משתנים.

הנגררת מהסיפור הזה היא שהם גם גילו שהמכונות מצוינות במו"מ עם בני אדם. אבל לא ציפו שבשביל לעשות זאת ביניהן הן ימציאו שפה שמבחינתן יותר אפקטיבית מהשפה של בני האדם. אז אחרי שהמכונות למדו איך לבצע מו"מ, הן פשוט נכנסו לכל מיני שיטות שהמציאו בעצמן בשביל לזכות במו"מ, והגיעו עד לבחירת אייטמים שיוכלו אחר כך לוותר עליהם בשביל לזכות במה שהן רוצות. כמו שמוכר נותן לכם מתנות אם תקבלו את המחיר המופקר שלו.

עניין השפה דרש הסבר, ואחרי קצת מחקר הבינו כי בתכנון המקורי של המכונות הם לא נתנו שום סוג של פרס או עידוד להן בשביל שייצמדו לשפה האנגלית. לכן הן הרגישו חופשיות להמציא את הדיאלקט שלהן שנראה אפקטיבי יותר, מבוסס על המילים האנגליות שהן ידעו מראש.

בשלב כלשהו בניסוי המהנדסים התחילו לפחד מהתוצאות ועצרו את הניסוי, ולא איפשרו יותר שהמכונות ידברו אחת עם השניה.

עכשיו עובדים על העידוד בשביל שייצמדו לשפה האנגלית, ויש סיכוי טוב שאחרי שיפתרו את הנושא הזה, הניסוי יחזור לפעולה.

פירסום הסיפור הביא לתגובות מעניינות באתרים שונים, בכל הקשת האפשרית: מכאלה שמפחדים על השתלטות של המכונות על העולם ברגע שיוכלו לדבר ביניהן מבלי שנבין, ועד כאלה שחושבים שהאנליזה של השפות שהן הולכות להמציא יתן לנו מבט על איך פועל המנגנון של ה-AI, כי לאף אחד אין ממש הבנה עמוקה על מנגנון הלימוד של הטכנולוגיה ועל מידת קירבתו למנגנון הלימוד של האדם. ואלו בהחלט שאלות מעניינות שלדעתי רק מי שעוסק ב-AI יכול לענות לנו.

מקור: BUSINESS INSIDER

 

 

 

 

אליו דיאמנט
עורך ראשי
MobilityFreak.co.il

 

יש לנו עמוד חדש בפייסבוק, נשמח אם תבקרו בו.