原文

LiteLLMは、OpenAI（またはネイティブ）フォーマットのLLM APIを呼び出すためのプロキシサーバー（AIゲートウェイ）です。バージョン1.82.0-stable以前のLiteLLMでは、カスタムコードガードレールの本番環境における作成および更新パスに、テストエンドポイントで使用されている同じサンドボックス化および検証が適用されていなかったため、ガードレールの作成または更新権限を持つ特権ユーザーがLiteLLMプロキシ環境内で実行されるカスタムPythonコードを送信できてしまい、その結果、プロセスで利用可能な秘密情報が漏洩する可能性がありました。この問題はバージョン1.82.0-stableで修正されています。