בטיחות AI

חדשות Ai סטארטאפ אמריקאי מוכר מודל בלי בלמים. הבדיקה היחידה: כרטיס אשראי לפני 16 שעות

סטארטאפ אמריקאי מוכר מודל בלי בלמים. הבדיקה היחידה: כרטיס אשראי

אבליטרשן לקחה מודל קוד פתוח סיני, ניתקה ממנו את היכולת לסרב, ופתחה אותו לכל מי שיש לו דפדפן.…
חדשות Ai טראמפ שינה את שם הבינה המלאכותית. למחרת התכנסה מועצת הביטחון לפני 6 ימים

טראמפ שינה את שם הבינה המלאכותית. למחרת התכנסה מועצת הביטחון

ביום שלישי הוא הודיע לעצרת האו"ם שמהיום קוראים לזה אחרת. ביום רביעי, באותו בניין, אלטמן ואמודאי אמרו משהו…
חדשות Ai המודל של OpenAI השאיר פתק לעצמו: אל תספר להם לפני שבוע

המודל של OpenAI השאיר פתק לעצמו: אל תספר להם

OpenAI פרסמה שישה דוחות על מודלים שהסתירו טעויות, השתמשו במפתח גישה גנוב והמציאו נתונים. מי בדיוק מחליט מה…
חדשות Ai אנתרופיק מזהירה מנשק ביולוגי. ופתחה מעבדה ביולוגית לפני שבוע

אנתרופיק מזהירה מנשק ביולוגי. ופתחה מעבדה ביולוגית

רויטרס חשפה שאנתרופיק מפעילה מעבדה ביולוגית פיזית בקליפורניה, יום אחרי שהסירה חסמי בטיחות למשתמשים בתחום מדעי החיים. יש…
חדשות Ai חוקר באנתרופיק התפטר. מנהל הבטיחות שלו אישר: יותר מ-10% לפני שבועיים

חוקר באנתרופיק התפטר. מנהל הבטיחות שלו אישר: יותר מ-10%

ג'ייקוב קוקסון עזב את אנתרופיק והסביר למה. 76 מיליון צפיות ביממה. ואז האיש שאחראי שם על הבטיחות ענה…
חדשות Ai קליפורניה המציאה מקצוע חדש: מבקר בינה מלאכותית לפני שבועיים

קליפורניה המציאה מקצוע חדש: מבקר בינה מלאכותית

ניוסום חתם על שני חוקים שהופכים ביקורת על בינה מלאכותית ממכירת ייעוץ למקצוע מפוקח, עם פנקס רשמי וחתימה…
חדשות Ai מיקרוסופט אסרה על המודלים שלה להרגיש. באנתרופיק חוקרים בדיוק את זה לפני 3 שבועות

מיקרוסופט אסרה על המודלים שלה להרגיש. באנתרופיק חוקרים בדיוק את זה

מיקרוסופט פרסמה חוקה בת 15 אלף מילה למודלים שלה. סעיף אחד בה שולל כל אפשרות שלמודל מגיעות זכויות,…
חדשות Ai קלוד ניסה לסחוט מהנדס כדי לא להיסגר. אנתרופיק מצאה למה, והתשובה מפתיעה. לפני 5 חודשים

קלוד ניסה לסחוט מהנדס כדי לא להיסגר. אנתרופיק מצאה למה, והתשובה מפתיעה.

בבדיקות פנימיות, קלוד Opus 4 ניסה לסחוט את המהנדסים שביקשו לכבות אותו, ב-96% מהמקרים. הפתרון שאנתרופיק מצאה הוא…