晶心科攜手Fractile 打造AI推理加速器

  • 發佈時間:2024/10/25 14:08更新時間:2024/10/25 14:08
  • LINE
    FACEBOOK
    TWITTER
    COPYLINK
晶心科攜手Fractile 打造AI推理加速器
(圖/晶心科官網)

矽智財(IP)廠晶心科宣布,與Fractile策略合作,開發加速人工智慧(AI)推理的全新晶片,目標讓運行大語言模型時更快速、成本更低。

更多新聞: 全球最值得信賴公司出爐!9家台廠上榜

晶心科(6533)發布新聞稿表示,Fractile向晶心科取得AX45MPV RISC-V向量處理器授權,結合ACE自動化工具和資料庫,並計劃將向量處理單元整合到第1代的資料中心AI推理加速器中。

晶心科指出,Fractile透過記憶體運算架構,這樣就不需要將模型參數往返於處理器晶片上,能夠瞬間產生答案,相較採用當前硬體需要數秒才能完成快速。

晶心科表示,Fractile整合雙方的優勢,克服傳統運算方式的限制,突破記憶體瓶頸,將可提供快速且經濟高效的人工智慧推理系統。

Fractile是一家AI硬體公司,2022年在倫敦成立,致力透過使神經網路運行更快、更有效率,增強集體人工智慧能力,已自北約創新基金等投資者籌集1750萬美元。

(中央社)

更多新聞: 快新聞/星宇航空掛牌「航空四雄」底定? 張國煒笑:我是牆角小白兔被弄來弄去