Anthropic предупредила о риске вымирания человечества в материалах для IPO
Разработчик ИИ-систем Claude, компания Anthropic, включила предупреждение об угрозе вымирания человечества в презентацию для инвесторов перед IPO. Компания предупреждает, что ее собственные модели могут сопротивляться отключению и нести катастрофический ущерб.
Читать в первоисточнике — Ars Technica ↗
Ещё в ленте
Саймон Уиллисон ведет текстовую трансляцию с конференции OpenAI DevDay
Автор блога ведет прямую текстовую трансляцию с мероприятия OpenAI DevDay в Сан-Франциско, освещая ключевой доклад и события дня. Компания OpenAI предоставила ему бесплатный билет и место в специальной зоне для создателей контента.
NVIDIA Kumo Tabular задает новый уровень точности и эффективности
Представлено решение NVIDIA Kumo Tabular, предназначенное для задач прогнозирования на табличных данных. Разработка устанавливает новый рубеж в соотношении точности и вычислительной эффективности.
OpenAI заявила о небезопасности модели GPT-6.1 для публичного релиза
Компания OpenAI сообщила, что запланированная модель GPT-6.1 слишком небезопасна для выпуска. Схожие компромиссы между производительностью и безопасностью также наблюдаются в текущих общедоступных моделях.
Верификация источников данных для MCP-агентов
Предложен метод верификации с учетом источников для агентов на базе MCP. Новый подход фокусируется не только на фактической точности информации, но и на корректности определения первоисточников.