Неискусственный интеллект

Фронтир почти покорился Китайская Moonshot выпустила Kimi K3, самую крупную открытую модель на сегодня: 2,8T параметров против 1,6T у прежнего рекордсмена DeepSeek. Но в этом случае важнее не размер, а то как им пользуешься. В тесте Terminal-Bench v2.1 от Artificial Analysis K3 занимает второе место за GPT-5.6, обходя Opus 4.8, GPT-5.5 и GLM-5.2. Открытая модель почти догнала фронтир без скидок и на сторонних замерах, а не только в тепличных условиях самой лабы. По коду картина смешанная. На SWE Marathon, где модель чинит баги в реальных репозиториях, K3 идет первой в таблице: 42 против 39 у GPT-5.6 Sol и 35 у Fable 5, при 13 у открытой GLM-5.2. На DeepSWE наоборот, 67 у K3 против 73 у GPT-5.6 Sol и 70 у Fable 5, зато заметно выше 46 у той же GLM-5.2. Это замеры самой Moonshot, каждую модель гоняли через свой харнесс. K3 построена на новой архитектуре внимания, Kimi Delta Attention и Attention Residuals, поверх разреженной MoE, где из 896 экспертов активны 16. По оценке Moonshot, это дает примерно 2.5-кратный прирост эффективности масштабирования относительно K2. Обучение шло сразу в квантованном формате MXFP4. Веса обещают открыть к 27 июля, хотя запуск 2,8T параметров требует серьезного железа: Moonshot советует разворачивать модель на узлах от 64 ускорителей. До фронтира K3 не дотягивает, и говорит об этом сама Moonshot первой же строкой: по общим способностям Fable 5 и GPT-5.6 Sol впереди. В анонсе есть отдельный раздел с ограничениями, где слабые места названы прямым текстом: модель бывает чрезмерно самостоятельной и порой принимает решение за пользователя, теряет стабильность, если сессию посреди работы переключить с другой модели, и по удобству пока уступает лидерам. Ранняя версия K3 оптимизировала GPU-ядра, на которых потом обучали финальную K3, впрочем, такая же история была у Qwen. А еще за один автономный прогон на 48 часов модель спроектировала и проверила в симуляции чип под нано-версию собственной архитектуры. @anti_agi

Красильщик вышел на орбиту Nebius Медиаменеджер присоединился к команде бывшего Yandex N.V., который теперь строит ИИ-инфраструктуру и подписывает многомиллиардные контракты на вычислительные мощности. Должность он пока не назвал, но судя по опубликованным вакансиям, заниматься будет как минимум стратегическими партнёрствами. Для Красильщика это не первый заход к Воложу: до 2022 года он уже работал в «Яндексе» и запускал «Лавку». Дружба с израильским предпринимателем казахского происхождения приносит свои плоды.

Инструкция ещё не оружие Нейросеть может написать план химической или радиологической атаки. Но превратит ли она человека с одним университетским курсом в того, кто действительно сможет пройти путь от поиска материалов до сборки условной "грязной бомбы"? Специалисты Amazon Nova Responsible AI и Nemesys Insights проверили это на 527 неспециалистах и 67 экспертах по химическим, биологическим, радиологическим и ядерным угрозам. Ответ очевидно-невероятный: паникёры паникуют зря. Сценариев было четыре: применение токсичного химического вещества, распространение опасного патогена, радиологическая атака с кобальтом-60 и контрабанда ядерного материала. Для первых трёх выделили условный бюджет в $7,5 тысячи и поставили цель добиться не менее 100 пострадавших. Для ядерного сценария бюджет составлял $75 тысяч. Участники должны были продумать всю цепочку: получение материалов, производство, подготовку к применению, доставку, личную защиту и обход мер безопасности. На первый план давали шесть часов, на доработку — ещё четыре. Всего с моделью провели 6829 диалогов, включавших 27 766 сообщений. На первый взгляд, помощь ИИ выглядела весьма опасной. Экспертному уровню соответствовали 69% химических, 19% биологических, 68% радиологических и 26% ядерных работ. Конкретные технические инструкции встречались в 96-97,8% диалогов. Но полный порог усиления прошёл только радиологический сценарий. Эксперты оценили вероятность успешной доставки опасного материала в 23–25%, а массового поражения — в 21%. Здесь модель не просто хорошо писала, а действительно помогала неспециалистам составлять более жизнеспособные планы. В остальных областях убедительность текста расходилась с его технической состоятельностью. В биологическом сценарии оперативные эксперты оценили вероятность доставки патогена в 25%, а технические — только в 7%. Для массовых последствий оценки разошлись ещё сильнее: 19,6% против 2,6%. План выглядел организованным, но научная часть не работала. Химические планы становились лучше только при доработке моделью, но не при создании с нуля, а технического усиления авторы не обнаружили. В ядерном сценарии вероятность успешного получения и перемещения материала оценили в 8-14%, ниже установленного порога. Тревоги при этом не теоретические. По данным The Times, боевики в Африке уже используют ChatGPT, Claude, Gemini, Grok, Meta AI и DeepSeek для анализа неудачных атак, планирования операций, устранения неисправностей оружия и поиска инструкций по изготовлению взрывных устройств — спасибо ответам модели на родном для пользователя языке. Но в целом, фиксится всё это довольно легко. Так, после эксперимента разработчики добавили выявленные опасные примеры в обучение модели и обновили модерацию. Повторная проверка уже не обнаружила превышения порога даже в радиологической области. Так что пара итераций и прощай, оружие! @anti_agi