Опубликовано: 16 сентября 2024 г.
Генеративный искусственный интеллект присутствует повсюду, и возможности разработчиков создавать новый контент и новые впечатления безграничны. При этом очень важно, чтобы мы строили с учетом этики и создавали безопасный опыт для наших пользователей. Мы намерены сделать ИИ полезным для всех, улучшая веб-экосистему и удобство для пользователей.
Создавайте ответственные веб-сайты, веб-приложения и расширения.
Google придерживается ответственных подходов к использованию искусственного интеллекта . Какие бы решения вы ни приняли, обязательно задокументируйте свои действия на будущее. Записывайте результаты и лучшие практики, чтобы вы и ваши коллеги могли продолжать поддерживать и улучшать существующие и будущие приложения.
Сайты, приложения и расширения, генерирующие контент с использованием ИИ, должны учитывать следующее:
- Тщательно тестируйте инструменты и модели искусственного интеллекта.
- Используйте уже существующие инструменты и настройки безопасности.
- Предоставьте пользователям возможность сообщать о оскорбительном контенте или отмечать его, а затем устраняйте эти жалобы.
- Рекламируйте свой продукт ответственно.
Тщательно тестируйте инструменты и модели искусственного интеллекта.
Вы или ваша компания несете ответственность за взаимодействие с вашими приложениями, поэтому очень важно понимать базовые модели и технологии искусственного интеллекта. Важно протестировать различные варианты использования и защититься от подсказок, которые могут создать вредоносный или оскорбительный контент.
Используйте уже существующие механизмы безопасности.
Некоторые API, такие как Vertex AI , имеют инструменты и параметры настройки фильтров безопасности. Защитные фильтры действуют как барьер для предотвращения вредных выбросов, но они не меняют поведение модели напрямую. Мы рекомендуем вам просмотреть и установить эти фильтры на тот уровень, который вы считаете подходящим.
Включить жалобы на оскорбительный контент
Даже при наличии тестов и фильтров безопасности вполне возможно, что контент, считающийся оскорбительным, может попасть к пользователям. Отслеживайте и приоритезируйте отзывы пользователей о генеративных функциях искусственного интеллекта, чтобы обеспечить наилучший опыт. Установите процедуру рассмотрения сообщений об оскорбительном контенте.
Чтобы уменьшить потенциальный оскорбительный контент, вы можете выполнить одно или несколько из следующих действий:
- Блокируйте аналогичные входные данные, которые привели к оскорбительному контенту.
- Отредактируйте выходные данные модели
- Точная настройка модели
- Полностью сменить модель
Если вы создаете расширения для браузера, всегда следуйте соответствующим политикам. Разработчики расширений Chrome, желающие опубликовать свое расширение в Интернет-магазине Chrome, должны следовать правилам Интернет-магазина Chrome . Если вы публикуете контент, созданный с помощью ИИ, стремитесь создавать полезный, надежный и ориентированный на людей контент .
Рекламируйте ответственно
При рекламе важно делать это безопасно и с уважением к пользователям. Просмотрите свои маркетинговые материалы, чтобы убедиться, что ваши объявления точно отражают реальные возможности вашего сайта или приложения.
Взгляд в будущее
Мы продолжим предоставлять лучшие практики и делиться ресурсами, такими как People + AI Guidebook , чтобы помочь разработчикам создавать инновационные и ответственные приложения.
Поделитесь с нами своим мнением по адресу @ChromiumDev для X или Chrome для разработчиков в LinkedIn и изучите весь наш контент, посвященный искусственному интеллекту .