أمان استدعاء الأدوات والتحقق منه

​

قائمة التحقق الأمنية

• اجعل مخططات الأدوات مختصرة وواضحة.
• تحقّق من الوسيطات بعد تحليلها وقبل تنفيذ الأداة.
• اسمح بأسماء الأدوات المدرجة فقط وارفض الأدوات غير المعروفة.
• أضف مهلًا زمنية وإعادة محاولات للاستدعاءات الخارجية.
• سجّل معرّف الاستدعاء واسم الأداة وإخفاقات التحقق.

​

مثال على التحقق من الطلب (TypeScript + Zod)

import { z } from "zod";

const WeatherArgs = z.object({
  city: z.string().min(1),
});

function executeToolCall(name: string, rawArgs: string) {
  if (name !== "get_weather") {
    throw new Error(`Unsupported tool: ${name}`);
  }

  const parsed = WeatherArgs.parse(JSON.parse(rawArgs));
  return getWeather(parsed.city);
}

​

استراتيجية الإخفاق

1. لا تنفّذ الأداة.
2. أعد حمولة خطأ مضبوطة إلى دور النموذج التالي.
3. اطلب من النموذج إعادة المحاولة بوسيطات مصححة.

​

ملاحظة حول البث