주요 생성형 AI 용어 23가지

이참에 알아둘까··· 주요 생성형 AI 용어 23가지

• 에이전틱 시스템

  • 자율적으로 결정하거나 행동하는 AI 모델로, 여러 에이전트가 함께 목표를 추구
  • 생성형 AI가 함께 구동될 경우, 기존의 프롬프트 및 응답 방식을 뛰어넘는 기능 제공

• AI 정렬(AI Alignment)

  • AI 모델이 안전성과 예절 같은 가치를 지키도록 훈련하는 것
  • 사용자의 가치와 상충되는 경우 해결이 어려움

• 블랙박스

  • 내부 메커니즘을 명확히 이해할 수 없는 모델로, 모델이 어떻게 답을 도출하는지 알기 어려움

• 컨텍스트 창

  • 모델이 한 번에 처리할 수 있는 토큰의 수
  • 긴 텍스트를 분석하거나 자세한 답변을 제공할 때 중요

• 증류(Distillation)

  • 큰 모델을 특정 사용 사례에 적합한 작은 모델로 축소하는 과정
  • 메모리를 덜 사용하면서도 성능 유지

• 임베딩(Embeddings)

  • 텍스트, 이미지 등 데이터를 표현하는 방법으로 유사한 데이터를 가깝게 배치하여 검색 효율을 높임

• 미세 조정(Fine-tuning)

  • 사전 학습된 모델을 특정 작업에 맞게 추가 학습시키는 것

• 파운데이션 모델

  • 방대한 데이터 세트에서 학습된 대규모 생성형 AI 모델

• 그라운딩(Grounding)

  • AI 모델의 응답 정확성을 높이기 위해 필요한 데이터를 프롬프트에 제공하는 과정

• 환각(Hallucination)

  • AI가 그럴듯하지만 틀린 답을 생성하는 문제
  • 미세 조정과 RAG 사용으로 줄일 수 있음

• 휴먼 인 더 루프(Human in the Loop)

  • AI의 결과물을 사람이 검토하는 접근 방식

• 추론(Inference)

  • 훈련된 모델을 사용해 질문에 답을 제공하는 과정

• 탈옥(Jailbreaking)

  • AI 시스템의 가드레일을 우회하여 부적절한 답변을 유도하는 것

• 대규모 언어 모델(LLM)

  • 텍스트 작업을 위해 설계된 대규모 AI 모델

• 멀티모달 AI

  • 텍스트, 이미지, 오디오 등 여러 유형의 데이터를 처리할 수 있는 AI 모델

• 프롬프트

  • AI 모델에 제공하는 입력 또는 질문

• 프롬프트 엔지니어링

  • AI에서 원하는 결과를 얻기 위한 효과적인 프롬프트 작성 기술

• 검색 증강 생성(RAG)

  • 프롬프트에 컨텍스트를 추가하여 정확성 및 보안을 개선하는 방법

• 책임감 있는 AI(Responsible AI)

  • 윤리, 편견, 개인정보 보호를 고려한 AI 시스템 개발 및 배포

• 소규모 언어 모델(Small Language Model)

  • 수백억 개의 파라미터가 있는 대규모 모델에 비해 더 작은 파라미터를 가지며 특정 작업에 적합

• 합성 데이터(Synthetic Data)

  • 인위적으로 생성된 데이터로, AI 모델을 학습시키기 위해 사용

• 벡터 데이터베이스

  • RAG를 통해 필요한 컨텍스트 정보를 저장하는 데이터베이스

• 제로 샷 프롬프트(Zero-shot Prompting)

  • 사용자가 예시를 제공하지 않고 모델이 답을 생성하는 방식