많은 머신러닝 (ML) 용어의 기본 정보 소스는 ML 용어집입니다. Google에서는 연구자의 작업을 중복하지 않고 ML 용어집에 없는 일반적으로 인용되는 단어와 용어만 포함합니다.
AI 시스템 청사진
새로운 AI 기능이나 제품을 빌드할 때는 AI 시스템 청사진을 정의하여 AI를 활용할 기회를 솔루션 빌드 방법과 매핑하세요. 다음을 정의해야 합니다.
- 빌드하는 이유 사용 가능한 AI 사용 사례와 사용자에게 제공하는 가치는 무엇인가요?
- 애플리케이션은 어떻게 작동하나요?
- 시스템의 각 부분을 책임감 있게 개발하려면 어떻게 해야 할까요?
웹의 AI 소개에서 청사진에 대해 알아보세요.
컴파운드 AI 아키텍처
컴파운드 AI 아키텍처: 하나 이상의 모델과 데이터베이스, API, 가드레일과 같은 기타 구성요소의 조합으로, 함께 작동하여 강력하고 컨텍스트 인식 동작을 제공합니다.
컨텍스트 엔지니어링
컨텍스트 엔지니어링은 가치 있는 결과를 얻을 가능성을 극대화하기 위해 특정 요청에 가장 관련성 높은 정보 (토큰)를 동적으로 선택하는 프로세스입니다.
데이터 드리프트
데이터 드리프트는 학습 데이터가 더 이상 실제를 나타내지 않을 때 발생합니다. 사용자 행동, 데이터 수집, 데이터 환경은 언제든지 변경될 수 있으며, 이로 인해 모델 성능이 저하될 수 있습니다.
결정론적 소프트웨어
결정론적 소프트웨어는 특정 입력이 주어지면 항상 동일한 일련의 단계를 따라 동일한 출력을 생성합니다. 이러한 유형의 소프트웨어는 예측 가능하고 효율적으로 실행되므로 가장 안정적인 유형입니다.
인공지능은 확정적이지 않습니다. 경로와 결과는 동일한 프롬프트에서도 크게 달라질 수 있습니다.
평가 중심 개발 (EDD)
평가 기반 개발 (EDD) 프레임워크는 작고 확실한 단계로 출력을 개선하고, 회귀를 포착하고, 시간이 지남에 따라 모델 동작을 사용자 및 제품 기대치에 맞추기 위한 반복 가능하고 테스트 가능한 프로세스를 제공합니다.
AI의 불확실성에 맞게 조정된 테스트 기반 개발 (TDD)이라고 생각하면 됩니다. 결정론적 단위 테스트와 달리 AI 평가는 하드코딩할 수 없습니다. 형식이 올바른 출력과 실패한 출력 모두 예측할 수 없는 다양한 형태를 취할 수 있기 때문입니다.
생성형 AI
생성형 AI는 콘텐츠를 생성할 수 있는 머신러닝 시스템을 나타냅니다. 즉, 모델이 텍스트를 작성하고, 이미지를 생성하고, 코드를 생성하고, 전체 사용자 인터페이스를 설계할 수도 있습니다.
거버넌스
AI 거버넌스의 세 가지 측면을 다룹니다.
- 개인 정보 보호: 데이터를 책임감 있게 처리하고, 수집되는 데이터를 설명하고, 브라우저를 벗어나는 데이터를 최소화합니다.
- 공정성: 모델에 차별적 행동 (편향)이 있는지 확인하고 사용자가 문제를 신고할 수 있는 루프를 빌드합니다.
- 신뢰와 투명성: 불확실성과 잠재적인 실수에도 불구하고 사용자가 계속해서 혜택을 누릴 수 있도록 투명성과 조정된 신뢰를 위해 시스템을 설계합니다.
마지막 차원인 보안은 AI 거버넌스의 중요한 차원입니다. 향후 모듈에서 보안에 대해 자세히 설명할 예정입니다.
그동안 Google의 안전한 AI 프레임워크 (SAIF)와 Google 보안 블로그를 읽어보시기 바랍니다.
모델
모델은 AI 시스템의 가장 중요한 백본입니다. 모델은 시스템이 예측을 수행하는 데 필요한 파라미터 및 구조의 집합입니다. 모델의 작동 방식은 학습 스타일 (감독 또는 비감독)과 모델 목적 (예측 또는 생성)에 따라 다를 수 있습니다.
모델 카드
모델 카드는 모델이 설계되고 평가된 방식을 구조화하여 개요를 제공합니다. 이러한 원칙은 Google의 책임감 있는 AI 접근 방식을 지원하는 핵심 아티팩트 역할을 합니다.
모델 가중치
모델 가중치는 특정 정보의 중요도를 결정하는 수치입니다. 이러한 값은 이상적인 가중치가 설정될 때까지 모델 학습에서 지속적으로 업데이트됩니다. Gemma와 같은 개방형 모델의 가중치를 수정할 수 있습니다.
AI의 기회
AI 솔루션을 구성하는 데는 여러 카테고리가 있습니다.
- 인사이트: 의사결정을 개선합니다.
- 편의성: 불편함 없애기
- 자동화: 반복적인 작업을 대체합니다.
- 증강: 복잡하거나 창의적인 작업을 하는 사용자를 지원합니다.
- 맞춤설정: 개인의 요구사항과 선호도에 맞게 제품을 조정합니다.
이 내용은 사용 사례 살펴보기에서 자세히 다룹니다.
플랫폼
클라이언트 측 AI는 브라우저에서 직접 실행됩니다. 즉, 데이터는 사용자 기기에 비공개로 유지될 수 있으며 네트워크 지연 시간이 없습니다. 하지만 클라이언트 측 AI가 제대로 작동하려면 매우 구체적이고 잘 정의된 사용 사례가 필요합니다.
서버 측 AI에는 클라우드에서 호스팅되고 추론을 실행하는 모델이 포함됩니다. 이 방법은 기능이 뛰어나고 확장 가능하지만 비용이 더 많이 들 수 있으며 네트워크 연결이 필요합니다.
예측형 AI
예측 (또는 분석) AI는 기존 데이터를 이해하고 다음에 일어날 가능성이 높은 일을 예측하는 데 도움이 되는 알고리즘 모음입니다. 예측형 AI 모델은 과거 패턴을 기반으로 결과를 예측하고, 인사이트를 표시하고, 더 스마트한 결정을 내리도록 학습합니다.
프롬프트 엔지니어링
프롬프트 엔지니어링은 사용자의 기대에 부합하는 출력을 생성하기 위해 프롬프트를 작성하고 다시 작성하는 행위입니다. 잘 작성된 프롬프트:
- LLM이 대답을 구성하는 방법을 명시합니다.
- 시간이 지남에 따라 버전을 관리하고 테스트하고 개선할 수 있는 여러 구성요소로 구성됩니다.
- 팀 간 공동작업을 위한 공유 아티팩트 역할을 할 수 있습니다.
프롬프트 엔지니어링에는 다양한 기법이 있으며, 프롬프트 엔지니어링 모듈에서 이에 대해 자세히 알아볼 수 있습니다.
프롬프트 유형
프롬프트 유형을 프롬프트 대상이라고 생각하면 됩니다. 자세한 내용은 프롬프트 엔지니어링 모듈을 참고하세요.
시스템 프롬프트
시스템 프롬프트는 애플리케이션 개발자가 제공하며 모델의 전반적인 동작을 정의합니다. 모델의 역할 ('글쓰기 도우미'), 예상되는 어조, 출력 형식 (예: 엄격한 JSON 스키마), 전역 제약 조건을 설정할 수 있습니다. 이 프롬프트는 요청 간에 안정적으로 유지됩니다.
사용자 프롬프트
사용자 프롬프트에는 출력을 생성하는 즉각적인 요청이 포함됩니다. 사용자가 텍스트 선택이나 예상 스타일과 같은 입력 변수를 제공하고 특정 작업을 요청합니다. 예를 들어 '이 게시물의 제목을 3개 생성해 줘', '이 단락을 계속 작성해 줘', '더 격식 있게 작성해 줘'와 같은 프롬프트를 입력할 수 있습니다.