[ON] Mistral AI опубликовал Devstral, большую языковую модель для работы с кодом

[rssbot]

Компания Mistral AI представила большую языковую модель Devstral, оптимизированную для решения проблем, возникающих в процессе разработки ПО. В отличие от типовых AI-моделей, Mistral AI выходит за рамки написания отдельных функций и дополнения кода, и предоставляет возможности, позволяющие анализировать и контекстуализировать (определять назначение и логику работы) большие кодовые базы, определять связи между компонентами и определять трудновыявляемые ошибки в запутанных функциях.


Модель охватывает 23.6 миллиардов параметров, учитывает контекст в 128 тысяч токенов и опубликована под лицензией Apache 2.0. Загружаемый архив с Devstral занимает 47 ГБ и пригоден для использования на локальных системах - для выполнения модели достаточно одного ПК с видеокартой NVIDIA GeForce RTX 4090 и 32 ГБ ОЗУ. Модель можно использовать в открытых инструментариях SWE-agent и OpenHands для автоматизации исправления ошибок, анализа кода и внесения изменений.





Система может применяться для решения конкретных проблем (issue) на GitHub и заметно опережает другие проекты в тестовом наборе SWE-Bench Verified, проверяющем корректность решения типовых проблем в коде (предлагается 500 тестов на основе реальных сообщений об ошибках на GitHub). В данном тесте модель Devstral набрала 46.8%, в то время как модель Claude 3.5 Haiku получила 40.6%, SWE-smith-LM 32B - 40.2% и GPT-4.1-mini - 23.6%. Среди прочего Devstral опередила такие крупные модели, как Deepseek-V3-0324 671B (38.8%) и Qwen3 232B-A22B (34.4%), охватывающие сотни миллиардов параметров.




Источник: https://www.opennet.ru/opennews/art.shtml?num=63286
(opennet.ru, основная лента)

[yoricI]

Предоставляют возможность программистам добровольно застрелиться В смысле, утратить компетенции

[ormorph]

Предоставляют возможность программистам добровольно застрелиться В смысле, утратить компетенции

Да судя по описанию она не разрабатывает сама код. Скорее всего будет использоваться для проверки кода на проблемные места. Тут застрелиться можно смотря на оборудование, всего то где то киловатт потребляемой мощности, практически как постоянно работать болгаркой, но это если нужно развернуть саму модель на локальном компе. Вот только сама обученная модель доступна ли для скачивания, особо не искал. Само собою сам сервис не бесплатный, и скорее всего для россиян доступ закрыт.

[Bizdelnick]

Вот только сама обученная модель доступна ли для скачивания, особо не искал

Действительно, зачем читать новость, писать комментарии намного увлекательнее.

Модель охватывает 23.6 миллиардов параметров, учитывает контекст в 128 тысяч токенов и опубликована под лицензией Apache 2.0.

[ormorph]

Действительно, зачем читать новость, писать комментарии намного увлекательнее.

Да я уже нашёл где. В каком то смысле это хорошо, а так просто будут теперь расти сервисы, не бесплатные конечно. Так то сам чат с этой моделью судя по описанию платный на данный момент, с регистрацией и оплатой ключа.

[Bizdelnick]

не бесплатные конечно

Ну никто не запрещает лично Вам запустить модель на своём железе и предоставить доступ всем желающим совершенно бесплатно, оплачивая потребляемый киловатт из своего кармана.

[ormorph]

Ну никто не запрещает лично Вам запустить модель на своём железе и предоставить доступ всем желающим совершенно бесплатно, оплачивая потребляемый киловатт из своего кармана.

Это не даст мне окупить такое железо, даже если раздавать за деньги. Каким ни будь компаниям, да это будет полезно использовать. А то такое ощущение что у нас каждый второй программист. Ну и там они ещё планируют продавать коммерческие версии моделей, так что это у них скорее больше как реклама и попытка прощупать рынок.

[Bizdelnick]

Это не даст мне окупить такое железо, даже если раздавать за деньги.

Не может быть!

[ormorph]

Не может быть!

Ну а сколько запросов может эта модель обестпечить на одном компе, и скользко нужно сделать что бы эту модель можно было использовать реально, те же плагины для IDE и т.п. В любом случае в это нужно вложиться, и одним компом тут не обойтись что бы что то реально получать.

[Bizdelnick]

[ormorph]

Да как бы догадался. Пока доступ к чату, это не для наших людей, просто оплату не провести.

[yoricI]

А вот интересно, проводят ли эти ИИ какую-нибудь цензуру? Или обнаруживают потенциально опасные, или, наоборот, прорывные, вещи? Или, может, стучат, если что?

[ormorph]

А вот интересно, проводят ли эти ИИ какую-нибудь цензуру? Или обнаруживают потенциально опасные, или, наоборот, прорывные, вещи? Или, может, стучат, если что?

На счёт опасных вещей, то на Youtube давно уже блокируется контент, и это без доступа человека. На счёт прорывных вещей не знаю, тут смотря как обучена модель и чего ожидал её создатель. В любом случае, это сейчас требует больших мощностей. Так что тут когда наши расказывают как они создали вычислительные модули с поддержкой нейросетей, то тут очень узкое применение, так как основные вычисления производит процессор(контроллер) Rockchip, а это очень мало.