DeepSeek kondigt NSA aan voor ultrasnelle lange-contexttraining en gevolgtrekking. Volgens het rapport is NSA een hardware-consistent en native trainbaar schaars aandachtsmechanisme voor ultrasnelle lange-contexttraining en gevolgtrekking.
Met een geoptimaliseerd ontwerp voor moderne hardware versnelt NSA de gevolgtrekking terwijl de kosten vóór de training worden verlaagd zonder dat dit ten koste gaat van de prestaties.
Het komt overeen met of overtreft volledig aandachtsmodellen op algemene benchmarks, taken met een lange context en op instructies gebaseerd redeneren.
Verantwoordelijke redacteur: Liu Mingliang