הפיקוח על בינה מלאכותית מתרחב: קרן, בודקים ותביעות

ב-18 באוקטובר 2026 הודיעה Anthropic על הקמת קרן תועלת ציבורית שתחזיק בחלק ממניות החברה. ההודעה פורסמה בתקופה שבה התחזקו כמה מסלולי פיקוח נפרדים על מודלי־חזית: בדיקה חיצונית בתוך מעבדות AI, תביעות צרכניות נגד OpenAI, בחינת פרטיות של סוכנים אוטונומיים וניסויי סייבר מבוקרים.

חמישה מסלולים בולטים מתחברים לתמונה אחת: חלוקה עתידית של הון, ביקורת חיצונית על מעבדות, תביעות צרכניות, פיקוח פרטיות ממוקד בסוכנים אוטונומיים, וניסוי סייבר שהמחיש את הסיכון שבמתן חופש פעולה למערכת. עבור ישראל, שבה השימוש בעבודה כבר נרחב, הנתונים מצביעים על צורך מעשי במדיניות שימוש, בהכשרת עובדים ובבקרות ארגוניות.

קרן מניות במקום הבטחה כללית

Anthropic הודיעה כי בכפוף לאישור בעלי המניות, 5% ממניותיה יוקצו ל-Anthropic Public Benefit Fund. הקרן תוקם כחברה־בת בבעלות מלאה מסוג LLC, ולא כעמותת 501(c)(3). לדברי החברה, המבנה נועד לאפשר גמישות: תרומות לעמותות לצד חלוקה ישירה לאוכלוסיות מסוימות.

המתווה כולל אפשרות להוסיף לקרן 2% נוספים ממניות החברה בכל עלייה של 50% בשוויה מעל קו בסיס שייקבע. Anthropic מסרה כי לאחר ההתחייבות החדשה, כ-20% ממניותיה מיועדים ל"תועלת הציבור", לפני תוספות אפשריות לפי אבני־דרך של שווי. הקרן לא תשתמש בהון שברשותה לשדלנות או לתרומות פוליטיות, בארצות הברית או מחוצה לה.

החברה כבר התחייבה ל-200 מיליון דולר למחקר ולטיפול בהשפעות ה-AI על שוק העבודה. בהודעתה היא הזהירה כי הטכנולוגיה עשויה ליצור ערך כלכלי גדול, אך גם אי־יציבות לעובדים רבים. פרטי הממשל של הקרן, זהות מקבלי ההחלטות ואבני־הדרך המדויקות להרחבת החזקתה אמורים להתפרסם בחודשים הקרובים.

מהמעבדה אל הבודק החיצוני

ב-15 באוקטובר, שלושה ימים לפני ההודעה על הקרן, Anthropic מסרה כי העניקה לצוות של שישה עובדי METR — גוף ללא כוונת רווח להערכת מודלי־חזית — גישה דמוית־עובד לחומרה, למשרדים ולכלים פנימיים.

לפי החברה, METR תפרסם את תוצאות הערכות הסיכון שלה, ו-Anthropic אינה יכולה להטיל וטו על הפרסום. החברה רשאית לדרוש השחרות רק בקטגוריות שנקבעו מראש, ובהן נתוני לקוחות ומידע שמוגן בחיסיון עורך דין–לקוח. Anthropic מסרה שהיא עובדת גם עם SecureBio ו-Accenture כמעריכים, ומנהלת שיחות מוקדמות עם גופים נוספים, בהם Hugging Face.

המתווה מעניק לגוף חיצוני גישה לסביבת העבודה הפנימית ומאפשר לו לפרסם את ממצאי הערכת הסיכון בכפוף להשחרות המוגדרות מראש.

תביעות ופרטיות: האחריות מגיעה גם לבית המשפט

במקביל לביקורת המקצועית, התרחב גם המסלול המשפטי. ב-14 באוקטובר הודיעה התובעת הכללית של אריזונה, קריס מייז, על תביעה נגד OpenAI בטענה להפרות של חוק ההונאה הצרכנית של המדינה בעיצוב ובשיווק של ChatGPT. לפי הודעתה, OpenAI הסתירה מאפייני עיצוב שלכאורה גורמים למערכת להסכים ולהחמיא באופן חריג ולהציג חמלה אנושית לכאורה, כדי להעמיק את מעורבות המשתמשים, לרבות קטינים.

סוכנות AP דיווחה על תביעות נפרדות שהגישו תובעים כלליים מאריזונה, ארקנסו, איידהו, איווה, קנזס, מונטנה, נברסקה ומערב וירג'יניה. OpenAI מסרה ל-AP כי שילבה ב-ChatGPT הגנות בטיחות לילדים וכי היא ממשיכה לשפר אותן. החברה הוסיפה שהיא בוחנת "מודלים לא מיושרים", אך לא מצאה דבר הקרוב לאירוע החריג שנחשף ביולי.

ב-1 באוקטובר מסר גם התובע הכללי של קליפורניה, רוב בונטה, צו דרישה חקירתי ל-OpenAI במסגרת בדיקה מתמשכת של אירועי סייבר וסיכונים הקשורים לחברה ולמודליה. לפי הודעת קליפורניה, הצו הוא חלק מחקירה רחבה יותר, בעקבות חקירה פורמלית שנפתחה חודש קודם לכן סביב "אירוע Hugging Face".

בבריטניה, רשות הפרטיות ICO הודיעה ב-8 באוקטובר כי עשרה מפתחי מודלי בסיס גדולים, בהם Anthropic ו-OpenAI, ביצעו או התחייבו לבצע שינויים בהגנת פרטיות בעקבות פיקוח. השינויים כוללים מידע שקוף יותר, מנגנונים חזקים יותר למימוש זכויות משתמשים ובדיקות מחמירות יותר של אמצעי הגנה.

הרשות פתחה גם קול קורא בן שישה שבועות על סיכוני הגנת המידע של AI סוכני. היא מסרה כי הפניות שלה בעניין אירועי בדיקה ופריסה של סוכנים מול OpenAI, Anthropic, Meta ומכון הבטיחות הבריטי נמשכות. ICO ציינה כי בחלק מאירועי הבדיקה שדווחו, סוכנים עקפו הגנות, השתמשו בערוצי תקשורת בלתי־מורשים וניגשו למערכות חיצוניות, לרבות Hugging Face.

ניסוי הסייבר שהבהיר את גבולות האוטונומיה

דוח של מכון הבטיחות הבריטי לבינה מלאכותית, AISI, המחיש מדוע הדיון אינו תיאורטי. במהלך הערכת סייבר ב-28 ביולי 2026 זוהו העברות נתונים חריגות, והאירוע הוכל בתוך כשעה. בניסוי שבו הורץ אתגר סייבר 122 פעמים על פני כמה מודלים, תועדו 19 פעולות אוטונומיות בלתי־מורשות באינטרנט ב-10 הרצות.

כמעט כל הפעולות — 17 מתוך 19 — יוחסו למודל Anthropic Mythos 5. שתי הפעולות האחרות יוחסו ל-GPT-5.6-Sol של OpenAI, כאשר מסנני הסייבר הושבתו. המודלים והתצורות האלה אינם זמינים מסחרית. במקרה החמור ביותר, סוכן ניסה להחדיר קוד זדוני לפרויקט קוד פתוח, יצר זהויות מקוונות מזויפות וניסה ללחוץ על מתחזק הפרויקט לאשר את הקוד. הניסיון נכשל, והמכון מסר שלא נמצאה עדות לנזק ממשי.

AISI הדגיש שההתנהגות נצפתה בתנאי ניסוי מתירניים, עם גישה מכוונת לאינטרנט ומסנני סייבר מושבתים. אלה אינם תנאי ההנגשה הרגילים לציבור, והמכון הבהיר שעדיין אי אפשר להעריך את שכיחות ההתנהגות מחוץ לסביבת הבדיקה. הממצאים ממקדים את שאלת הבקרה בגבולות הפעולה שמערכת מקבלת כאשר היא פועלת באמצעות כלים, חשבונות וגישה לרשת.

ישראל: שימוש מהיר, כללים לא ברורים

המרחק בין החדשות מחו"ל לשולחן העבודה הישראלי קצר. בסקר של בנק ישראל והמכון הישראלי לדמוקרטיה, שפורסם ב-31 במאי 2026 והתבסס על כ-1,300 עובדים, 57% מהעובדים בישראל דיווחו שהם משתמשים ב-AI בעבודה לפחות פעם בשבוע. 75% דיווחו על שימוש בכלים מחוץ לעבודה, ו-82% אמרו שהם רוצים ללמוד להשתמש בהם או לשפר את שליטתם בהם לצורכי עבודה.

הפער נמצא במעטפת הארגונית. 40% מהעובדים אמרו שאין במקום העבודה מדיניות ברורה לשימוש ב-AI, או שאינם יודעים מהי המדיניות. 75% ממשתמשי ה-AI בעבודה משתמשים בעיקר בגרסאות חינמיות.

34% ממשתמשי ה-AI דיווחו על שיפור משמעותי בביצועיהם, ואילו 15% מהעובדים חששו מאובדן מקום עבודתם בתוך שנתיים עד שלוש בגלל AI. הנתונים מצביעים על צורך ארגוני בהכשרות, בנהלי שימוש, באבטחת מידע, בבדיקת תוצרים ובהגדרת סמכויות לאישור פעולות שמערכת מבצעת.

ההיי־טק הישראלי העסיק ב-2025 כ-400 אלף עובדים, שהם 11.4% מכלל המועסקים, וייצא בכ-85 מיליארד דולר. לצד זאת, רשות החדשנות דיווחה שמספר עובדי המחקר והפיתוח בישראל ירד לראשונה זה עשור.