助產業掌握AI與未來商機 工研院研討會聚焦生成式AI應用四大議題 – 天天上新聞

助產業掌握AI與未來商機 工研院研討會聚焦生成式AI應用四大議題

 

▲工研院619日起,連續兩天舉行「生成式AI驅動科技產業創新與機遇系列研討會」,第一場邀請群聯電子技術長林緯(左1)、工研院產科國際所經理石立康(左2) 、台灣智慧雲端趙逢毅(右2)、工研院資通所組長李青憲(右1)等專家共同參與,協助產業掌握AI科技產業趨勢與未來商機。(圖/工研院提供)

 

【勁報記者羅蔚舟/新竹報導】
為協助產業掌握AI科技產業趨勢與未來商機,工研院謹訂於今(6/19)日起,連續兩天舉行「生成式AI驅動科技產業創新與機遇系列研討會」, 由工研院產業分析師團隊深入剖析生成式AI科技應用四大關鍵議題、生成式AI引爆電子零組件新商機、生成式AI潮流下半導體之趨勢與商機等主題;同時也邀請工研院資通所、工研院電光所專家、以及台灣智慧雲端、群聯電子、芯鼎科技等業界AI指標廠商共同參與,希望提供多元思路,助力產業的發展趨勢和市場脈動,研討會線上與線下近五百人參與,展現了產學研各界對生成式AI產業前景的高度關注。

 

6/19日上午登場的是「生成式AI科技應用四大關鍵議題」場次。本場次從生成式整體市場切入,聚焦於現已成形的AI伺服器供應鏈及今年初登市場的各式AI PC產品,分析相關硬體發展方向與其他後續市場商機所在;也將分析產業GenAI應用模式,區隔出適合本土的相關技術,提出發展GenAI專屬領域應用的四項策略及應用落地作法。此外,也特別邀請產業專家中的專家與會;由台灣智慧雲端總工程師趙逢毅分享當前開源模型最新進展,說明開源模型能力已與閉源相當,已開發一系列FFM家族模型可適合各類不同應用,而規模化AI Foundry Service(AFS)可成為本土企業迅速導入GenAI的最佳平台;群聯電子技術長林緯則分享近期研發的革命性技術,找到GenAI市場特定需求,推出aiDAPTIV方案並發展新的AI Workstation產品概念,讓中小企業也可負擔合理硬體投資來執行大型語言模型相關工作。

 

█生成式AI市場全貌、供應鏈及未來商機探索/石立康研究經理
工研院產科國際所研究經理石立康進行「生成式AI市場全貌、供應鏈及未來商機探索」專題演講,指出生成式AI技術開啟「白領賦能」的新頁,對教育程度越高者,未來在工作自動化提升程度越高;同時也從語言逐漸走向多模態發展。台灣具無與倫比的生態系,為垂直應發展用的堅實基礎。AI雲端晶片由輝達獨領風騷,該公司也正與台灣生態系合作,從關鍵元件提供商變成高速運算系統的主要供應商。台灣已成AI伺服器的供應鏈中心,電源供應、液體冷卻等次系統,未來還有很大發展空間,全球也因「主權AI」,亦即各國應掌握自有專屬的大語言模型,作為核心科技的趨勢下,讓需求不斷成長。在PC產業應用面向上,PC產業希望將換機潮自2025提前到2024發生,目前看來相當成功,唯ODM廠須注意零組件的存貨管理。

 

█生成式AI的開源繁中模型最佳化與導入指引/台灣智慧雲端總工程師趙逢毅
台灣智慧雲端總工程師趙逢毅進行「生成式AI的開源繁中模型最佳化與導入指引」專題演講,指出開源模型已進入GPT-4時代。GPT-4的語言理解和生成能力達到新高度,並具有處理多種數據形式的多模態能力,提升了在複雜推理和邏輯推斷方面的表現。新的訓練技術使GPT-4能更高效地學習,提升了模型的效率和效果。同時介紹FFM家族模型,包括:FFM-LLAMA 3 70B和8B模型在多種自然語言處理任務中表現出色,特別是繁體中文應用;FFM-Mixtral 8x7B和FFM-Mistral 7B針對特定應用場景進行了優化,最新的FFM-LLAMA 2 v2 70B、13B和7B模型進一步提升了準確性和效率。此外語言模基的 Function Call功能使模型能直接調用各種API,實現靈活的應用集成和業務擴展,顯著提升業務效率和準確性。

 

為了能提高企業擁抱可信任的生成式 AI 落地應用,台智雲(TWSC)與華碩合作推出的企業級落地方案 AI Foundry Service(AFS)服務,藉由一個端到端的AI服務為企業提供從模型訓練到部署的一站式解決方案。此外,AFS 提供專業技術支持和諮詢服務,並具備高效的資源管理系統,基於Kubernetes和Docker的雲原生基礎設施,支持多租戶和高安全性需求。此服務目前已經受到國內外高科技及製造業龍頭的青睞,並快速導入到現有企業流程以加快各項生成式 AI 落地應用。開源模型進入多模態時代帶來了新機遇和挑戰,FFM家族模型在繁體中文處理方面表現出色,AI Foundry Service提供全面AI解決方案,助力企業數字化轉型。

 

█生成式AI的產業應用機會與落地推動作法 /工研院資通所組長李青憲
工研院資通所組長李青憲以「生成式AI的產業應用機會與落地推動作法」為主題進行專題演講。他指出,生成式AI浪潮下,工研院正積極協助國內產業應用與落地;首先與外部產學研單位構建本地生態系,瞭解業界需求。除聚焦在地端專屬領域,也以生成式AI升級現有應用。從目前主要五大類生成內容出發,將與超過10種以上產業廠商合作並推行技術擴散,建立典範案例如製程配方、3D模型建構、報告產製、監管合規等。工研院未來也將對齊新政府AI政策,價值定位在「產業自動化」與「企業決策」兩類應用,敏捷整合最新國際模型/工具/技術之框架,以AI發展AI,滾動規劃調整以期最終協助國內百工百業導入成功。

 

█打破生成式AI落地障礙的關鍵技術:Phison aiDAPTIV+/群聯電子技術長林緯
群聯電子技術長林緯深入探討aiDAPTIV+方案的技術細節和相關生態系統的發展。他認為,生成式AI技術普及面臨著重大挑戰:高昂的部署成本。這一挑戰不僅限制了技術的廣泛應用,也成為了許多組織採用這類先進技術的障礙。對此,群聯推出了aiDAPTIV+方案,旨在通過利用NAND Flash技術擴充高帶寬記憶體(HBM),從根本上降低成本。這一策略不僅能夠提升系統性能,也使得生成式AI的部署成本大幅下降,推動技術的更廣泛應用。通過具體案例,展示了如何有效解決成本和可擴展性的挑戰,從而實現生成式AI技術的普及。