خروجی JSON از هوش مصنوعی را پیش از واردکردن به برنامه، داده غیرقابلاعتماد فرض کنید. معتبر بودن نحو، درستبودن نوع فیلدها و مجازبودن اثر بعدی سه بررسی جدا هستند؛ هیچکدام بهتنهایی دیگری را تضمین نمیکند.
فرض کنید مدل از یک پیام، کد کالا و تعداد را استخراج میکند. حتی اگر پاسخ ظاهراً شبیه JSON باشد، ممکن است توضیح اضافی، نام فیلد متفاوت یا مقدار غیرمجاز داشته باشد. برنامه نباید صرفاً به دلیل وجود آکولاد، آن را برای ثبت سفارش یا تغییر موجودی بپذیرد.
ابتدا قرارداد داده را بنویسید
فیلدهای لازم، نوع هرکدام، مقادیر مجاز و رفتار در نبود اطلاعات را مشخص کنید. برای نمونه آموزشی، فقط دو فیلد «کد» و «تعداد» داریم؛ کد رشته است و تعداد عدد صحیح نامنفی با سقف تعریفشده در برنامه. اگر درخواست ناقص است، باید مسیر خطا یا سؤال تکمیلی داشته باشید، نه مقدار حدسی.
دستور مدل میتواند چنین باشد: «فقط شیء JSON با کلیدهای code و quantity بده. کد را عین ورودی حفظ کن. تعداد نامعلوم را حدس نزن و آن را در مسیر تعریفشده اعلام کن. توضیح یا کد اجرایی اضافه نکن.» این دستور به نظم خروجی کمک میکند، اما اعتبارسنجی برنامه همچنان ضروری است.
نحو را با parser بخوانید، نه با اجرای متن
از ابزار استاندارد JSON استفاده کنید و متن را با eval یا روش اجرای کد تفسیر نکنید. یک رشته تولیدی نباید امکان اجرای دستور پیدا کند. همچنین پیش از parsing اندازه ورودی را محدود کنید؛ داده نامطمئن میتواند منابع برنامه را مصرف کند.
مثال ساده زیر فقط اعتبارسنجی یک نمونه آموزشی است و هیچ رکوردی ثبت نمیکند:
import jsonraw = '{"code":"A-001","quantity":3}'
if len(raw.encode("utf-8")) > 100_000:
raise ValueError("input too large")
data = json.loads(raw)
if type(data) is not dict:
raise ValueError("object required")
if set(data) != {"code", "quantity"}:
raise ValueError("unexpected fields")
if not isinstance(data["code"], str) or not data["code"]:
raise ValueError("invalid code")
q = data["quantity"]
if type(q) is not int or not 0 <= q <= 10_000:
raise ValueError("invalid quantity")
سقفها در این نمونه، انتخاب آموزشیاند و باید با نیاز واقعی تنظیم شوند. استفاده از بررسی دقیق نوع برای تعداد، مانع پذیرش مقدار بولی بهجای عدد صحیح در این مثال میشود. این قطعه، همه قواعد تجاری یا امنیتی یک سامانه واقعی را پوشش نمیدهد.
JSON صحیح هنوز ممکن است معنای نادرست داشته باشد
رشته کد باید با کالاهای مجاز و زمینه کار تطبیق داده شود. عدد سه میتواند از یک جمله منفی یا نقلقول استخراج شده باشد. اگر پیام میگوید «سه عدد نمیخواهم»، استخراج صرف عدد برای ثبت سفارش مناسب نیست. به همین دلیل مرحله تأیید معنایی و در کار حساس تأیید انسانی لازم است.
همچنین بعضی parserها رفتارهایی مثل پذیرفتن کلید تکراری یا مقدارهای توسعهیافته دارند. تنظیمات و محدودیت کتابخانه را بررسی کنید و اگر قرارداد شما سختگیرانه است، آن را صریح پیادهسازی کنید. صرف اینکه یک متن در یک برنامه باز شد، تطابق با قرارداد همه مصرفکنندگان را ثابت نمیکند.
خطا را به مسیر کنترلشده بفرستید
در خطای نحو یا نوع، داده را وارد مرحله عملیاتی نکنید. پیام خطای خلاصه و بیاطلاعات حساس ثبت کنید و درخواست اصلاح را با همان قرارداد انجام دهید. پاسخ اصلاحشده هم باید دوباره بررسی شود؛ گرفتن دوباره خروجی از مدل، جای اعتبارسنجی را نمیگیرد.
برای آزمون، ورودی ناقص، کلید اضافه، تعداد منفی، تعداد متنی و یک پاسخ دارای توضیح قبل از JSON را در نظر بگیرید. انتظار هرکدام را بنویسید. اگر برنامه فقط نمونه خوب را قبول میکند ولی با نمونه بد بیصدا ادامه میدهد، زنجیره قابلاعتماد نیست.
مرز اقدام را جدا نگه دارید
حتی پس از تأیید داده، مجوز کاربر، وجود کالا، محدودیت عملیات و جلوگیری از ثبت دوباره باید در بخش اجرایی بررسی شوند. مدل نباید با اضافهکردن یک فیلد مثل «approved» برای خودش اختیار بسازد. شناسه یکتا برای درخواست و ثبت نتیجه، در اتوماسیونهای قابلتکرار اهمیت دارد.
آیا خروجی ساختیافته یک سرویس همه این بررسیها را حذف میکند؟
میتواند رعایت قالب را بهتر کند، اما معنای داده، مجوز و قواعد کسبوکار همچنان وظیفه برنامهاند. قابلیت را نیز باید برای مدل و حساب واقعی بررسی کرد.
آیا میتوان فیلدهای اضافه را بیصدا حذف کرد؟
بسته به قرارداد ممکن است سیاست متفاوتی داشته باشید، اما تصمیم باید آگاهانه باشد. در مسیر حساس، فیلد غیرمنتظره میتواند نشانه خطای استخراج یا تغییر نسخه باشد و نیاز به بررسی داشته باشد.
مسیر مناسب این است: دریافت متن، محدودیت اندازه، parsing، بررسی ساختار، بررسی معنا و سپس اقدام مجاز. کوتاهکردن این زنجیره به «JSON به نظر میرسد» میتواند خطای کوچک مدل را به اثر واقعی تبدیل کند.
برای ادامه یادگیری
- ابزارها
- ۱۵ پرامپت کاربردی ChatGPT که کار شما را نصف میکند
- پرامپت قابلآزمایش بنویسیم؛ از خواسته مبهم تا معیار پذیرش
دیدگاهها
۰ دیدگاههنوز دیدگاهی ثبت نشده؛ اولین نفر باشید.