據(jù)科創(chuàng)板日?qǐng)?bào)消息，近日，谷歌研究院發(fā)文，公布了Titans系列模型架構(gòu)，相應(yīng)模型架構(gòu)最大的特點(diǎn)是采用仿生設(shè)計(jì)，結(jié)合了短期記憶、長(zhǎng)期記憶和注意力機(jī)制，支持超過(guò)200萬(wàn)個(gè)Token的上下文長(zhǎng)度，目前相關(guān)論文已發(fā)布在arXiv上，谷歌計(jì)劃未來(lái)將Titans相關(guān)技術(shù)開源。