負責任的AI! Amazon Bedrock提供Guardrails有效實施客製化的安全措施

2024 / 04 / 29

編輯部

負責任的AI! Amazon Bedrock提供Guardrails有效實施客製化的安全措施

Amazon Web Services（AWS）宣布推出Amazon Bedrock的全新功能，為客戶提供了更簡單、更快捷、更安全的方法，幫助客戶開發先進的生成式人工智慧（AI）應用。新增的功能允許客戶在Amazon Bedrock上運行專屬的完全託管模型，簡化了為特定應用場景選擇最佳模型的過程，並讓生成式AI應用程式的保護措施更易於實施。透過Amazon Bedrock Guardrails功能，客戶可以利用前瞻技術輕鬆實施防護措施，去除個人訊息和敏感資訊、不當語言、特定詞彙並過濾有害內容。

企業需要以安全、可信任和負責任的方式使用生成式AI。許多模型使用內建控制來過濾不良和有害內容，但大多數客戶希望進一步客製化他們的生成式AI應用程式，以確保生成結果更具相關性，在符合公司政策的同時遵循負責任的AI原則。現在，Amazon Bedrock的Guardrails功能已正式可用，它在基礎模型的原有功能之上提供了業界領先的安全保護，能夠幫助客戶阻止高達85%的有害內容。

Guardrails是唯一一項由頂級雲端服務供應商提供的解決方案，它允許客戶在單一服務中同時擁有內建和客製化的防護機制，並可與Amazon Bedrock中的所有大型語言模型（LLMs）以及經過微調的模型一起使用。要打造一個Guardrail，客戶只需提供一個自然語言描述來定義其應用程式上下文中不予顯示的主題即可。

此外，客戶還可以設定閾值以過濾仇恨言論、侮辱、性相關用語、攻擊和暴力性等內容，並設定篩檢程式來移除個人訊息和敏感資訊、不當言論或過濾特定詞彙。透過為生成式AI應用程式提供一致的使用者體驗和標準化的安全和隱私控制，Amazon Bedrock Guardrails使客戶能夠快速且安全地進行創新。

負責任的AI 生成式AI應用程式安全