商湯大装置がDeepSeekシリーズモデルを提供開始、3ヶ月間1000万トークン無料体験!

出典:https://mp.weixin.qq.com/s/OvhSUYu4GzTunjgrqY6a_Q

概要ポイント
  • 商湯大装置でDeepSeek-V3・R1を提供開始、3ヶ月1000万トークン無料体験。
  • 企業向けに特化したモデルカスタマイズと高効率推論環境を提供。
  • 異種チップ対応によりハードウェアリソースの最適化を実現。
  • 官公庁・金融・自動車など多業界で導入実績あり。
  • 今後も技術支援を強化し、スケール可能なAIインフラを提供。
本文

商湯科技(SenseTime)は、企業向けAI開発プラットフォーム「商湯大装置」において、DeepSeek-V3およびDeepSeek-R1の提供を開始した。これにより、企業や開発者は高度なAIモデルを素早く導入でき、3ヶ月間で最大1000万トークンを無料で利用できる。

さらに、業界特化型のモデルカスタマイズサービスを提供し、特定用途での精度向上と推論効率300%向上を実現する。商湯大装置は、クラウド、オンプレミス、一体型デバイスなど多様な環境でのデプロイをサポートし、NVIDIAや国産チップに対応。マルチチップ環境での最適な計算リソース配分を実現し、運用コストを抑えながら高いパフォーマンスを提供する。

また、推論最適化のための主要エンジン対応や、今後導入予定のPD(Prefill-Decode)分離式推論アーキテクチャにより、さらなる効率化を図る。計算タスクを分割し、最適な演算ユニットに割り当てることで、より高いエネルギー効率を実現する狙いがある。

商湯大装置は、官公庁、通信、金融、インターネット、自動車、テクノロジー企業など幅広い業界で導入され、業務の効率化と知能化を支援している。今後も技術・サービスの強化を継続し、企業が高効率かつ低コストでスケール可能なAIインフラを活用できるよう支援していく方針だ。