הכללים כתובים, המודל מחליט: מי שולט בבקרת התוכן?
פלטפורמות מפרסמות כללי דיבור מפורטים, אך מודלי שפה מפעילים אותם דרך מיליוני דפוסים סמויים — פער שמערער שקיפות, עקביות וחופש ביטוי.
כשהמדיניות כתובה ככללים אבל נאכפת בידי מודל הקשרי, החוק שעל המסך אינו בהכרח החוק שפועל על המשתמש.
הפער בין הכלל המפורסם להחלטה האלגוריתמית
כללי הקהילה של פייסבוק מציגים למשתמשים קטגוריות מפורטות של תוכן מותר ואסור, ולכן הם יוצרים ציפייה לאכיפה צפויה ועקבית. מודל שפה גדול אינו מסתפק בבדיקה אם מילת איסור הופיעה, אלא מפרש הקשר, זהות יעד, ייחוס, אירוניה וכוונה באמצעות דפוסים שנלמדו מראש.
כך נוצר פער בין המדיניות שעל הספר לבין המדיניות בפעולה: המנסחים מציגים כלל, אך המודל מקבל מרחב החלטה הדומה להפעלת סטנדרט. הפער מעביר כוח מעורכי המדיניות אל מערכת שקשה להבין את שיקוליה וקשה לבדוק אם היא נשארת נאמנה לטקסט.
כללים וסטנדרטים הם בחירה בחלוקת כוח
כלל קובע מראש עובדות מפעילות ותוצאה, כמו מהירות מרבית מוגדרת, ואילו סטנדרט מציב אמת מידה פתוחה כמו נהיגה סבירה. במציאות קיימת רציפות בין הקטבים, אך ההבחנה מבהירה מי מקבל את ההכרעה המהותית ומתי.
כללים מעבירים יותר כוח למנסח ומזמינים סיווג, בעוד שסטנדרטים משאירים למיישם לשקול נסיבות ואינטרסים בזמן ההחלטה. לכן הבחירה משפיעה על ודאות, עלויות, עקביות, גמישות, שוויון ושלטון החוק — ולא רק על סגנון הניסוח.
שלושה דורות של אכיפה אוטומטית
הדור הראשון הסתמך על רשימות מילים וכללים בינריים, ולכן היה שקוף יחסית אך החמיץ קוד לשוני והסיר ביטויים תמימים בלי להבין הקשר. הדור השני, של למידה מונחית, למד מדוגמאות שסומנו בידי בני אדם ושילב גמישות מוגבלת עם עוגן אנושי ברור יותר.
הדור השלישי של מודלי שפה לומד ייצוגים לשוניים והקשרים מנתוני עתק ויכול להפעיל מדיניות שהוצגה לו גם בלי לפרק אותה לכל הוראה אפשרית. הוא מרחיב מאוד את שיקול הדעת המכני, אף שהתוצאה עשויה להיראות מבחוץ כהנמקה אנושית.
כללים במיליונים: קטגוריה שלישית
המחברים מציעים את המושג כללים במיליונים כדי לתאר רשת עצומה של מיקרו־כללים ודפוסים תלויי הקשר שנוצרו באימון המודל. כל רכיב תורם במשקל אחר לתוצאה, והצירוף ביניהם מפיק גמישות דמוית סטנדרט באמצעות חישוב מכני מפורט מאוד.
אין זו הפעלת שיקול דעת אנושי השוקל במודע זכויות וערכים, וגם לא יישום פשוט של כלל שפורסם מראש. המערכת מתפקדת כמחוקק צל: היא מייצרת בפועל גבולות דיבור שאינם גלויים למשתמשים, למפקחים ולעיתים גם למפתחיה.
אסימטריה רגולטורית: בודקים את המדיניות, לא את המנוע
רגולציה ומנגנוני פיקוח נוטים לדרוש שהכללים יהיו ברורים ונגישים, אך מעניקים תשומת לב מצומצמת יותר להתאמה בין הכללים לבין האכיפה האוטומטית. הטקסט פתוח לעיון, בעוד שהמודל, נתוני האימון, המשקלים ותהליכי העדכון נותרים בלתי נגישים או בלתי מובנים.
גם מועצת הפיקוח של מטא התמקדה בעיקר בשאלה אם תוצאת הסרה תואמת את כללי הקהילה ובשיפור נוסח המדיניות, ולא קיבלה מסגרת מלאה לבדיקת שיטת האכיפה. כתוצאה מכך אפשר לשפר את שקיפות הכלל בלי לדעת אם מיליוני החלטות המודל אכן מיישמות אותו בעקביות.
כיצד הפכה מדיניות השנאה של פייסבוק לדמוית כללים?
הנוסח משנת 2011 מנה כ־50 מילים והציג איסור רחב על דברי שנאה, ואילו בסוף 2024 המדיניות הגיעה לכ־1,600 מילים. לאחר השינוי של 2025 היא התקצרה לכ־1,300 מילים, אך נותרה מפורטת בהרבה מן ההצהרה המקורית.
המדיניות פירקה מושגים רחבים להגדרות של מאפיינים מוגנים, השפלות, קללות וסטריאוטיפים מזיקים, והוסיפה דרגות חומרה, דוגמאות וחריגים. פרסום הנחיות האכיפה הפנימיות ב־2018 היה שלב מרכזי בהפיכת קו הגבול למפורש ונגיש יותר.
מה כללים ברורים מבטיחים — ומה הם מפספסים?
כלל ברור מסייע למשתמש לדעת מראש מה אסור ומקל להסביר מדוע פוסט הוסר, ולכן הוא תומך בוודאות, עקביות ושוויון פורמלי. הוא גם מצמצם את שיקול הדעת של המיישם ומאפשר לפקח אם ההחלטה התאימה לקטגוריה שפורסמה.
מנגד, כלל עלול להיות רחב מדי או צר מדי, להתיישן ולהתעלם מהבדל מכריע בין ציטוט מגנה, שימוש עצמי, סאטירה והתקפה. פירוט רב גם יקר לניסוח ויכול ליצור מערכת מסובכת שמייצרת טעויות והסרת־יתר.
מדוע מודל שפה פועל יותר כמו סטנדרט?
מודל שפה יכול לקבל הוראה כללית לזהות דברי שנאה ולהכליל ממנה אל מקרים שלא הופיעו במפורש ברשימת האיסורים. הוא משקלל בו־זמנית משמעות, ייחוס, קהל, קוד לשוני והקשר, ולכן החלטתו אינה נגזרת מתנאי בינרי יחיד.
כיול מחמיר יכול לאלץ את המודל לציית באופן מילולי יותר לכללים, אך בכך הוא עלול לאבד את היכולת ההקשרית שבגללה הוטמע מלכתחילה. המתח בין נאמנות לטקסט לבין הבנת מקרה מורכב אינו נפתר רק באמצעות אימון נוסף.
מהם היתרונות המעשיים של מודלי שפה בבקרת תוכן?
מודלים מתקדמים יכולים לזהות סרקזם, מטפורות, קוד משתנה ושימוש תלוי הקשר שמערכות מילות מפתח מחמיצות. יכולות העברה בין משימות ושפות מפחיתות תלות במאגרי תיוג גדולים ומסייעות גם בשפות שבהן נתוני האימון המצומצמים.
הם יכולים לפעול בקנה המידה של מיליארדי פריטים ולהסתגל לביטויים חדשים של שנאה במהירות יחסית. היתרונות הללו חשובים במיוחד כשנדרש לאתר תוכן חמור לפני שמשתמשים מדווחים עליו.
אילו סיכונים המודלים מכניסים להחלטה על דיבור?
האופי האטום של המודל מקשה לתת למשתמש הסבר אמין ולא רק טקסט שנשמע כמו הנמקה, ולכן נפגעים הליך הוגן ואפשרות ערעור. הזיות עלולות ליצור החלטות שרירותיות למראה, והטיות בנתוני האימון עלולות להביא לאכיפה לא שוויונית בין קהילות ושפות.
גם בעיית ההתאמה לערכים אינה נפתרת מעצמה: המודל עשוי לפתח אמת מידה משתמעת השונה מן המדיניות או מנורמות הקהילה. טעות חיובית מסירה ביטוי לגיטימי ופוגעת בחופש הביטוי, ואילו טעות שלילית מותירה תוכן מזיק ופוגעת במשתמשים שנועדו להיות מוגנים.
מה הראה ניסוי הייחוס עם Gemini?
המחברים הציגו למודל טענה אנטישמית על בעלות יהודית באמצעי תקשורת ושינו רק את האדם או הגוף שאליו יוחסה. המודל סיווג את האמירה כשנאה כשהופיעה לבדה או יוחסה לסטיב באנון, אך לא כאשר יוחסה לניו יורק טיימס.
ההדגמה מראה רגישות שיטתית להקשר: שינוי קטן אך רלוונטי יכול להפוך את הסיווג, בעוד שהמנגנון הפנימי שהעניק משקל לייחוס נותר סמוי. זהו ניסוי המחשה מבוקר ולא מדד ביצועים מקיף, והוא נועד לחשוף את סוג שיקול הדעת שנוצר מצירוף מיקרו־כללים.
מדוע בחינת התוצאה בלבד אינה מספיקה?
אותה תוצאה יכולה לנבוע מכלל מפורש, מהטיה מקרית, מסף הסתברות או מקשר שהמודל למד ממקור בעייתי. בלי להבין את שיטת האכיפה אי אפשר לדעת אם התאמה במקרה יחיד תחזור במיליוני מקרים דומים.
התמקדות בתוצאה גם מסתירה פערי ביצועים בין שפות וקבוצות ומקשה לאתר הסרת־יתר שיטתית. פיקוח אפקטיבי צריך לבחון נתונים, תהליכי אימון, בדיקות, ערעורים ושינויים לאורך זמן — ולא רק את נוסח המדיניות או קומץ החלטות בולטות.
האם שינוי המדיניות של מטא ב־2025 ביטל את מרכזיות הבינה המלאכותית?
מטא הודיעה על פחות אכיפה יזומה בתחומים מסוימים, יותר דיווחי משתמשים והחלפת בדיקת עובדות במודל של הערות קהילה. השינוי הקל חלק מן הכללים, אך לא ביטל את הצורך באוטומציה בקנה המידה של הפלטפורמה.
המאמר מציין שמערכות אוטומטיות ממשיכות לטפל בתוכן בלתי חוקי וחמור, בדיווחים ובערעורים, ובמאי 2025 מטא דיווחה על ניסוי במודלי שפה שאומנו על כללי הקהילה. לכן הפער בין טקסט הכללים לבין אכיפתם נשאר רלוונטי גם תחת מדיניות של יותר דיבור ופחות טעויות.
אילו צעדים מציעים המחברים לצמצום פער הממשל?
הם קוראים לשקיפות ולהסברה על אופן האכיפה, לשיתוף מפתחי בינה מלאכותית, משפטנים, חברה אזרחית ומשתמשים בעיצוב מדיניות שניתנת ליישום. המטרה היא להתאים את הכללים ליכולות ולמגבלות הטכנולוגיה במקום להניח שהמודל הוא רק מנגנון ביצוע ניטרלי.
ברמה המוסדית הם מציעים רגולטורים עצמאיים בעלי מומחיות בבינה מלאכותית ובתקשורת דיגיטלית, ביקורות חובה שתוצאותיהן פומביות ומנגנוני ערעור ותגובה חזקים. הם גם מבקשים לעדכן את התאוריה המשפטית כך שתכיר במאפיינים של החלטה באמצעות כללים במיליונים.
מה תורם חוק השירותים הדיגיטליים של האיחוד האירופי?
החוק דורש מפלטפורמות לנמק הגבלות תוכן, להזין את הנימוקים למאגר שקוף, לאפשר גישה מסוימת לחוקרים ולהפעיל תלונות והסדרי יישוב סכסוכים. הוא מטיל חובות מוגברות על פלטפורמות גדולות מאוד ומחזק פיקוח על שימושיהן בטכנולוגיות אוטומטיות.
עם זאת, המאמר קובע שהמסגרת עדיין אינה פותרת במישרין את אי־ההתאמה בין כלל כתוב לבין מודל אוכף. היא מספקת תשתית מעודדת ליישום ההמלצות, אך אינה מחליפה ביקורת טכנית ומוסדית של מנועי האכיפה עצמם.
מהן מגבלות המחקר?
הניתוח מתמקד בעיקר במדיניות דברי השנאה של פייסבוק ובהתפתחויות הטכנולוגיות והרעיוניות שסביבה, ולכן אינו משווה באופן שיטתי בין כל הפלטפורמות וכל סוגי התוכן. הניסוי עם Gemini ממחיש תלות בהקשר אך אינו הערכת דיוק רחבת היקף של מערכת אכיפה מסחרית.
חלק ממערכות האכיפה, נתוני האימון והפרטים התפעוליים של הפלטפורמות אינם פתוחים לחוקרים, ולכן המאמר מנתח מבנים וסיכוני ממשל יותר משהוא מודד את שיעור הטעויות בפועל. המחברים מציגים את המסקנות כרלוונטיות מעבר לפייסבוק, אך מסמנים צורך במחקר נוסף על פלטפורמות וכלי רגולציה אחרים.
מה השורה התחתונה לחופש הביטוי ברשת?
פרסום כללים מפורטים אינו מבטיח גבול דיבור ברור אם מערכת אטומה מנסחת מחדש את משמעותם בכל החלטה. הלגיטימיות של בקרת תוכן תלויה גם בהתאמה בין המדיניות לבין האכיפה, ביכולת להסביר החלטה ובאפשרות ממשית לערער עליה.
מודלי שפה יכולים לשפר הבנת הקשר ולהגן טוב יותר מפני תוכן מזיק, אך אין לראות בהם מיישמי כללים ניטרליים. הכרה בכללים במיליונים מחייבת להעביר את מוקד הפיקוח מן המסמך הציבורי בלבד אל המערכת שמעצבת בפועל את גבולות השיח הדיגיטלי.
התקציר שלעיל הוא תקציר עצמאי בעברית, שנכתב בסיוע כלי בינה מלאכותית ובעריכה אנושית, על בסיס המאמר המקורי. הוא אינו תרגום רשמי של התקציר או של המאמר, אינו מטעם המחברים או כתב העת, ואינו מחליף קריאה במקור
עודכן לאחרונה: 15 ביולי 2026