Slack AI ガードレールは、Slack のすべてのネイティブ AI 機能を保護するための一連の仕組みです。Slack の AI 機能にアクセスできるすべてのユーザーが安全に利用できるよう、ガードレールには複数の保護メカニズムが組み込まれています。 

• ハルシネーションを防ぐためのコンテンツしきい値
• 明示的な安全に関する指示を伴うプロンプトエンジニアリング
• プロンプトインジェクションのリスクを軽減するためのコンテキストエンジニアリング
• フィッシング攻撃を阻止するための URL フィルタリング
• 出力形式の検証
• コンテンツ安全性フィルター

ガードレールの仕組み

Slack のすべての AI 機能が利用する大規模言語モデル（LLM）には安全対策が組み込まれていますが、Slack のガードレールはその上に追加される保護レイヤーです。ガードレールには、リクエストを LLM に送信する前に適用されるプロンプト側の安全対策が含まれており、回答が安全でセキュアなものになるようにします。

リクエストまたは回答がガードレールの安全性チェックを通過しなかった場合、Slack は被害を抑えるために、リクエストや生成されたコンテンツを変更またはブロックすることがあります。ほとんどの場合、AI が生成した回答を通じて、ユーザーが安全な利用方法へ戻れるよう案内されます。例えば、最も生産性の低い同僚は誰かと Slackbot に尋ねた場合、回答できないことを伝え、別の質問をするよう提案することがあります。 

コンテンツ安全性フィルター設定を管理する

Slack のコンテンツ安全性フィルターは、ユーザーが生成した入力を利用する次の Slack AI 機能に適用され、不適切な使用や悪意のあるアクティビティに伴うリスクを軽減します。 

• Slackbot
  Slack に組み込まれた、仕事のためのパーソナルエージェントです。
• canvas コンテンツの作成
  AI を使用して canvas をゼロから作成したり、既存の canvas にコンテンツを追加したりできます。
• 検索
  検索結果を 1 つひとつ確認する代わりに、質問すると AI から回答を得られます。
• ワークフローの作成
  自動化したいタスクやプロセスを説明すると、AI がワークフローを作成してくれます。

オーナーと管理者は、社内ポリシーや地域ごとの規制要件に準拠するため、またはポリシーに関する質問やセキュリティ情報の検索といった正当な AI 利用がブロックされるのを防ぐために、コンテンツ安全性フィルターの設定を調整できます。

利用可能な設定

利用可能な設定は次のとおりです。 

• 最大
  デフォルトのコンテンツ安全性フィルターに加えて、パフォーマンスや法的保護対象の属性情報などに基づく、特定の従業員のプロファイリングをブロックすることを目的としています 
• デフォルト
  プロンプト攻撃、暴力的な表現、ヘイトスピーチ、性的なコンテンツ、その他の違法行為をブロックすることを目的としています
• なし
  追加のコンテンツ安全性フィルターは適用されません。「なし」を選択しても、Slack AI ガードレールのその他の安全対策は引き続き有効です。

設定を管理する

ワークスペースのオーナーと管理者（プロ、ビジネスプラス、Enterprise Select プラン）および OrG オーナーと管理者（Enterprise Grid および Enterprise+ プラン）は、コンテンツ安全性フィルターの設定を管理できます。