הטכנולוגיה מייצרת מידע, גם כשהוא לא נכון

ד"ר אסף שפנייר, ראש התוכנית לתואר שני בבינה מלאכותית במכללת עזריאלי להנדסה בירושלים, מסביר בראיון לתוכנית "דבר ראשון" איך המערכות האלו עובדות, ולמה צריך להיזהר מהן.

לדבריו, מערכות כמו ChatGPT מבוססות על סטטיסטיקה בלבד:
"הבסיס של מערכות כמו ChatGPT… הוא פשוט סטטיסטיקה. והמשמעות היא שהן לא באמת יודעות אם משהו נכון או לא. "כי אין לו את היכולת להגיד 'אני לא יודע'"

התוצאה: הן עלולות לייצר מידע לא נכון  שנשמע אמין לגמרי.

הבעיה מחמירה במיוחד כשזה מגיע לתוכן ויזואלי:
"הסרטונים הופכים יותר ויותר קשים לזיהוי. תוך חצי שנה כבר לא תוכל לדעת מה אמיתי ומה לא"

לדבריו, כבר היום מופצים סרטונים וקולות מזויפים שנראים אמיתיים לחלוטין ומשפיעים על דעת הקהל, גם אם בהמשך מתברר שהם לא אמיתיים.

אז מה כן אפשר לעשות?
כמו שד"ר שפנייר אומר:
"אנחנו צריכים לעבוד בזה… חייבים להצליב מידע ולצרוך חדשות רק ממקורות מוסמכים"כלומר לא להאמין לכל מה שרואים או שומעים, לבדוק מקורות, ולהיות קצת יותר ביקורתיים.

לא חייבים להיות מתכנתים, אבל כן חייבים להכיר את הכלים האלה, להבין איך הם עובדים, ולא להשתמש בהם בעיניים עצומות.

לכתבה המלאה >> https://www.kikar.co.il/davar-rishon/tcah0i