تاریخ انتشار: 16 سپتامبر 2024
هوش مصنوعی مولد همه جا وجود دارد و فرصت های توسعه دهندگان برای ایجاد محتوای جدید و تجربیات جدید بی پایان است. با آن، بسیار مهم است که ما با رعایت اصول اخلاقی ایجاد کنیم و تجربیات ایمن را برای کاربران خود ایجاد کنیم. ما قصد داریم هوش مصنوعی را برای همه مفید کنیم و اکوسیستم وب و تجربیات کاربر را بهبود ببخشیم.
وب سایت های مسئول، برنامه های وب و برنامه های افزودنی بسازید
گوگل متعهد به اقدامات هوش مصنوعی مسئول است. هر تصمیمی که می گیرید، مطمئن شوید که شیوه های خود را برای آینده مستند کنید. نتایج و بهترین شیوه ها را ثبت کنید تا شما و همکارانتان بتوانید به حفظ و بهبود برنامه های موجود و آینده ادامه دهید.
سایت‌ها، برنامه‌ها و افزونه‌هایی که با استفاده از هوش مصنوعی محتوا تولید می‌کنند باید موارد زیر را در نظر بگیرند:
- ابزارها و مدل های هوش مصنوعی را به شدت آزمایش کنید.
- از ابزارها و تنظیمات ایمنی از قبل موجود استفاده کنید.
- به کاربران راهی برای گزارش یا پرچم گذاری محتوای توهین آمیز بدهید، سپس به آن گزارش ها رسیدگی کنید.
- محصول خود را مسئولانه تبلیغ کنید.
ابزارها و مدل های هوش مصنوعی را به شدت آزمایش کنید
شما یا شرکتتان مسئول تجربه برنامه‌هایتان هستید، بنابراین بسیار مهم است که مدل‌ها و فناوری هوش مصنوعی زیربنایی را درک کنید. آزمایش انواع موارد استفاده و محافظت در برابر درخواست هایی که می تواند محتوای مضر یا توهین آمیز ایجاد کند، مهم است.
از مکانیسم های ایمنی از قبل موجود استفاده کنید
برخی از APIها مانند Vertex AI دارای ابزارها و گزینه های پیکربندی فیلترهای ایمنی هستند. فیلترهای ایمنی به عنوان یک مانع برای جلوگیری از خروجی مضر عمل می کنند، اما مستقیماً رفتار مدل را تغییر نمی دهند. توصیه می‌کنیم این فیلترها را در سطحی که مناسب می‌دانید بررسی و تنظیم کنید.
فعال کردن گزارش های محتوای توهین آمیز
حتی با وجود فیلترهای تست و ایمنی، ممکن است محتوایی که محتوای توهین‌آمیز در نظر گرفته می‌شود، به کاربران راه پیدا کند. بازخورد کاربران را در مورد ویژگی‌های هوش مصنوعی مولد نظارت و اولویت‌بندی کنید تا مطمئن شوید که بهترین تجربه ممکن را شکل می‌دهید. فرآیندی برای رسیدگی به گزارش های محتوای توهین آمیز ایجاد کنید.
برای کاهش محتوای توهین‌آمیز احتمالی، می‌توانید یک یا چند مورد از اقدامات زیر را انجام دهید:
- ورودی های مشابهی را که منجر به محتوای توهین آمیز می شود مسدود کنید
- خروجی مدل را ویرایش کنید
- مدل را به خوبی تنظیم کنید
- مدل را به طور کامل عوض کنید
اگر افزونه های مرورگر می سازید، همیشه از خط مشی های مربوطه پیروی کنید. برنامه‌نویسان برنامه افزودنی Chrome که مایلند برنامه افزودنی خود را در فروشگاه وب Chrome منتشر کنند، باید از خط‌مشی‌های فروشگاه وب Chrome پیروی کنند. اگر محتوای تولید شده با هوش مصنوعی را منتشر می کنید، سعی کنید محتوای مفید، قابل اعتماد و در درجه اول برای مردم ایجاد کنید.
مسئولانه تبلیغ کنید
هنگام تبلیغات، مهم است که این کار را به گونه ای انجام دهید که ایمن و برای کاربران محترم باشد. مطالب بازاریابی خود را مرور کنید تا مطمئن شوید که تبلیغات شما به طور دقیق توانایی های واقعی سایت یا برنامه شما را نشان می دهد.
نگاه به آینده
ما به ارائه بهترین شیوه ها و به اشتراک گذاری منابع، مانند کتاب راهنمای افراد + هوش مصنوعی برای حمایت از توسعه دهندگان در ساخت برنامه های نوآورانه و مسئولیت پذیر ادامه خواهیم داد.
بازخورد خود را با ما در ChromiumDev@ در X یا Chrome برای توسعه دهندگان در LinkedIn به اشتراک بگذارید و تمام محتوای هوش مصنوعی ما را کاوش کنید.