AIチャット「chatGPT-3」大規模言語モデルを個人で動かせる「FlexGen」単一GPUでLLM動かせる神ツール！従来比で100倍の高速化

【PR広告】 暗号資産(仮想通貨)専用の海外銀行口座開設はこちら

AIチャット「chatGPT-3」大規模言語モデルを個人で動かせる「FlexGen」単一GPUでLLM動かせる神ツール！従来比で100倍の高速化

1: 名無しのメタバースさん 0000/00/00(※) 00:00:00.00 ID:metaversesoku

GPUメモリに限りがある状況（16GB T4や24GB RTX3090など）でも大規模な言語モデルを高パフォーマンスで実行できる「FlexGen」が公開https://t.co/EWwNdt6EgO

— やまかず (@Yamkaz) February 20, 2023

続きを読む

続きを見る（外部サイト）

引用： https://ift.tt/vUSCKH7
出展： https://ift.tt/cQfWpN4