論文 [論文] OpenAIの動画生成AI「Sora」の論文を読む
Soraとは？ Soraは、OpenAIによって2024年2月にリリースされたテキストからビデオを生成するAIモデルです。 Prompt: A stylish woman walks down a Tokyo street filled w...
Transformer
論文 
論文 [論文]『WORLD MODEL ON MILLION-LENGTH VIDEO AND LANGUAGE WITH RINGATTENTION』
論文の内容 この研究について 『WORLD MODEL ON MILLION-LENGTH VIDEO AND LANGUAGE WITH RINGATTENTION』の論文では、長いビデオと言語のシーケンスを訓練する際の課題に対処するため...
論文 [論文] 『Ring Attention with Blockwise Transformers』の論文を読む
Ring Attentionとは？ 『Ring Attention with Blockwise Transformers』は、AIモデルで長いシーケンスを効率的に処理するために、ブロック単位のAttention機構とフィードフォワード操作...