技術分享與學習資源
異地備援與異地備份，是企業用來預防數據與資料遺失，必須做的措施！保障數據與資料安全，對企業來說相當重要，更是維繫企業生存的生命線，因此該如何讓辛苦蒐集而來的資料，在不幸遇上電腦病毒、人為操作失誤等狀況遺失時，不影響企業營運，同時還能快速恢復。透過本文你將能完整了解異地備援與異地備份，找到未雨綢繆的好辦法！
探索 Generative AI 與 Bedrcok
很開心今天有這個機會與大家分享 Generative AI 與 Bedrock 的功能亮點，以及後續可以如何使用在商業應用服務之中。
以一個資訊業工作者來看 AWS 推出的這項服務，真的是太開心了，因為早年的人工智能 (AI) 還有機器學習 (ML) 門檻較高，不僅要懂不同的 AI 模組框架，還有行業別的 Domain Know-How 要了解，資料收集及處理也都是要花費不小的功夫，如果沒有足夠的時間跟人力根本就連碰都不敢碰。
而現在 AWS 推出的 Bedrock 讓這一切都變得更加簡單，我們可以透過 API 的呼叫就能輕鬆完成！讓人不禁喊一聲「太神啦！」，我們會透過幾個部分的介紹，讓各位可以簡單的了解這一切是怎麼出現的，事不宜遲，那我們就開始窺探這一切吧！
Generative AI 趨勢與大語言模型 (LLM)
AI 的未來就是現在
在了解這一且之前，請容許筆者在這邊講古一下，早期的數位轉型大部分是著重在基礎設施上的進化，打個比方來說，我們將地端的機器推上雲端，或是讓我們配置容器化，抑或是在我們流程當中加入 DevOps，BUT！最重要的就是這個 BUT，生成式 AI 大大改變了 AI 的進程。
根據調查，其實現在 95% 的企業分析師認為，AI 納入數位轉型非常重要，也有高達 80% 的企業報告中指出，他們有使用一樣或多樣的人工智慧運行在他們的商業活動或是生產流程當中，我們也不難想像，未來將會更多更多的 AI 服務被使用在企業的工作之中。AI 也驅動了商業結果，有 81% 的企業在使用了 AI 後，不到兩年的時間內，報告了積極的”被”投資報酬率。
AI 的未來就是現在
沒圖沒真相，讓我們看到 IDE 在 7 月份做出的調查：
我們首先看到最左邊的辣個圈圈，已經約有 78% 的組織，不是已經用了 Generative AI 就是走在 Generative AI 的路上，但時至今日我相信真實的數字應該更多了，因為他真的可以節省大量的時間，最直觀的方式就是問問你身旁邊的同事或是朋友，在 Coding、寫文案、產生圖片抑或是製作影音的時候，是不是或多或少有用上各種 AI 的輔助工具，以便更有效率地完成目標。
緊接著看到中間這些藍色的長條圖，這個圖代表描述的是哪些領域因為 Generative AI 的加入產生巨大的變化，第一個當然就是軟體開發，網路上有太多開源專案可以被 Generative AI 學習，對於程式碼編寫的能力有著巨大的進步，第二個是產品開發，雖然 Generative AI 沒辦法直接幫我們開發產品，不過 LLM 可以透過我們所收集的大量資訊，協助我們全方面的思考用以設計更為精良的產品，筆者本身也常常使用 Generative AI 去輔助撰寫一些文件，讓文件的架構更加完整。
受規範的 Generative AI
因為上述的這些例子，我們可以知道的 Generative AI 絕對是大量的被應用在工作上，但也因為 Generative AI 的流行，大量的資料都可以透過它找到，因此產生了一些隱憂。舉例來說，ChatGPT 可以說是 OpenAI 最著名的產品，人人都在使用它，這對 OpenAI 本身其實造成了不小的壓力，前陣子也有 GPT 收集了太多不應該出現的資訊，回答出不該回答的內容，進而造成了企業的傷害。也因為如此，有部分的企業不准員工在工作中使用C hatGPT。
但我們都知道 Generative AI 絕對是商業趨勢，但是符合企業需求的是「受規範下的 Generative AI」，有受到規範，才能合宜的完成商業任務。
Generative AI 當中的各種 LLM
我們都知道近幾年的 LLM 模型不論是商用的、還是開源的，都如雨後春筍般陸續冒出來，不難發現大家對於 Generative AI 當中的 LLM 投注了相當的心力。
我們簡單介紹幾個大家熟悉的 LLM：
- GPT-Models
OpenAI 推出許多的 LLM 模型，除了我們們熟知的 ChatGPT 還有近期發布的 GPT-4，GPT 模型引起了 AI 社群的極大興趣，這些模型具有專有授權，這是一種非開源授權，需要用戶支付費用並施加一些使用限制。
- LLaMA 2
由 Meta 開發的開源 LLM。LLaMA 用途在幫助研究人員推進 LLM 領域的工作。它有多種大小可供選擇，參數範圍從 7 到 650 億個參數不等，旨在透過需要更少的運算能力和資源來實現 LLM 存取。
- PaLM-2
由 Google 開發的下一代大型語言模型。PaLM-2 基於 Google 先前在 AI 領域的研究，並已在 2023 年 5 月的年度 I/O 主題演講中宣布。
- Claude v2
Claude AI 於 2022 年 4 月首次發布，是人工智慧安全新創公司 Anthropic 與 AWS 合作推出的人工智慧聊天機器人。Anthropic 採用一種名為「憲法人工智慧」的技術進行訓練，旨在創建對人類有幫助的人工智慧系統。
這邊筆者再針對上述幫大家補充一些內容，我們都知道 GPT-4 對於 To C 的部分根本就是超級好用！但也衍生出兩大缺點，就是花費以及內容保護的部分，簡單來說因為人人都在用 GPT 的關係，它背後的機器需要巨大的算力來支持，巨大的算力也代表巨大的花費，我們都有聽說過 OpenAI 每天在這方面的費用就高達 70 萬美金；也因為 To C 的部分做的非常好，反面來看對於 To B 的商業內容或是行為保護上可能就沒有這麼優秀。 LLaMa 2 也就是大家戲稱的草尼馬，他的設計就是更偏向商業用途，目的是減少算力也能達到跟一般的 LLM 一樣的目的。PaLM 2 是 GCP 的 LLM，也是想要做到減少使用資源的概念。最後一個可能是大家比較陌生的Claude V2，他是由 Antheopic 與 AWS 合作推出的人工智慧交談式應用，短短一年多的時間，就回覆內容與基礎模型上來說，他已經足以媲美 ChatGPT 的解決方案，另外有一點非常特殊，就是上面也有提到過的「憲法式人工智慧」，Claude 使用這種方式進行資料模型的訓練，可以造就我們前面也有提到過，「受規範的 Generative AI。
至於與 Claude 的互動方式也非常的簡單，可以透過 AWS 的控制台在聊天介面中與Claude 交談，也可以透過 API 與之互動，將 Claude 與商業產品/軟體進行整合，並讓客戶再與這些產品進行互動。
AWS Bedrock
剛剛講了這麼多關於 Claude 的內容，那我們可以從哪裡去使用他呢？聰明的你一定還記得，沒錯就是透過 AWS Bedrock。
AWS Bedrock 是一個掛載多個 LLM 的平台，除了提供基礎的模型簡化自訂義的模型建構外，大大簡化了建構 LLM 的難度，並且可以快速整合 AWS 上的其他服務，例如 S3、EKS、EC2、Lambda 等等，簡單來說他就是所謂的 Foundation Models (FM)。
何謂 Foundation Models(FM)
Foundation Model 直接翻譯就是基礎模型，跟我們以往的 Machine Learning (ML) 差異在於，FM 是有做過預先訓練過的模型，這讓 AI 訓練模型的門檻大大降低，透過FM 就就不需要為不同模型訓練準備大量不同的資料，可以快速的搭建自己的 LLM 訓練。我知道你可能覺得有點抽象，所以請看下圖：
使用傳統 ML 模型
我要做不同的 Tasks 需要針對不同領域去準備大量的單一領域資訊與資料，而且訓練出來的 AI 只能針對我所提供的單一領域去回答問題，舉例來說大家應該都有聽過 AlphaGo，對於圍棋方面的能力可能已經沒有人可以匹敵，但 AlphaGo 沒有辦法回答圍棋以外的問題。
採用基礎模型 FM
基礎模型在我們使用他之前，就已經經歷了「預學習 (Pre-train)」，所以不論後續提出什麼樣的問題，他都會以原先的學習內容進行回答，如果希望他回答的更加完整，就可以在 Data Source 新增相對應的資訊，補足 FM 的知識。
AWS Bedrock關鍵優勢
AWS Bedrock 是一種託管服務，所以用戶不需要花費大量的資源搭建自己 LLM 所需要的 Infra，減去了不少的功夫，只要透過 API 就可以開始進行溝通，並且開始使用，訓練自己的 LLM。也因為他是在 AWS 上的服務，所以可以透過 AWS 的機制，運用更安全的方式去保護資料。
AI 在商業上的應用，大致上分為三個方向：
1. 增強客戶體驗
不管是 Chatbot 與虛擬助理，可以根據不同情境及時的回答使用者問題，可以進行更多的個人化服務。
2. 提高員工生產力
需要閱讀大量的文件常常讓人無所適從，透過 Generative AI 幫忙消化抓取重點，提高員工學習的狀況，進而提升整體公司的產能。
3. 改善業務營運
一間公司平時的運營可能需要確認很多事情，以媒體業者來說，所有的文章審核及圖像幾乎都需要進行審核，避免有違規的內容產生，透過 AI 可以更快速的達成，並且提供替代方案。再以工廠端為例，根據日常維運的資料顯示讓 AI 直接進行監控，並對一些異常行為進行檢測，並發出相對應的通知。
如果大家欠缺一個可以開始的方向，可以以智慧對話的方式當成第一個專案，就趨勢預測來看，來年超過 80% 的企業聊天機器人將用於自動化的完成交付的一個或多個任務，或是主動提供建議。近幾年間，將會有將近一半的 Chatbot 可以進行更有溫度的客戶服務，甚至是像是 Siri 或 Alexa 一樣的私人助理，可以幫忙更新行事曆甚至發送 Email。更多人使用人工智慧對話的應用，市場規模將成長 30%，而且成本不但不會上升，還有可能下降 30％！
這邊關於 Generative AI 跟 Bedrock 的介紹就到這邊啦！如果對於如何將 AI 帶入您的商業活動，或是想要用 LLM 創造更高的價值，也歡迎聯絡我們 Netron網創資訊，那就先這樣，大家掰掰！
Netron網創資訊作為 AWS 進階合作夥伴，不只取得了 Migration、MSP、Generative AI Competency 等認證，憑藉成功輔助上百家企業數位轉型的實戰經驗，我們可以協助企業精確評估 AWS 領導力下的各項服務，並將其無縫整合進現有雲端戰略與開發流程。
如需進一步了解我們的公部門雲端服務解決方案，歡迎聯絡我們。
