1
Разрабы GigaChat представили научную работу на топовой международной конференции ACL — одна из статей посвящена семейству моделей GigaChat на архитектуре Mixture of Experts.
Это первые в России нейросети, обученные с нуля на основе MoE архитектуре. Модель работает по принципу смеси экспертов — для каждой задачи автоматически подбирается наиболее подходящий «эксперт», что повышает качество и эффективность работы.
В итоге нейронки в 2 раза быстрее, эффектнее и дешевле аналогов при сопоставимом качестве. GigaChat lite в версиях base & instruct уже доступны в открытом доступе.
@exploitex