'인공지능과 저널리즘(간사: 김정훈 CBS정책기획부장)' 연구모임에서 1월 23일 모임을 가진 후 제공한 강의 내용을 공유합니다.

□ 주제 : 챗봇 제작 및 활용

□ 강사 : 문지학 틸노트 대표

<인공지능과 저널리즘 회원들이 문지학 대표의 강의를 듣고 있다.> 

1. API 호출 및 실습 준비

챗GPT의 특징

- 챗GPT가 기록할 수 있는 한계까지 이전 대화 내역을 보내서 처리할 수가 있음

- 챗GPT가 우리가 이전에 했던 내용을 기억해서 대답을 해줄 수가 있음

- 서비스에서도 이전 대화 내역도 함께 보내기 때문에 기업 리밋을 알고 있으면 서비스를 활용하거나 API에서 활용을 하실 때 도움이 될 것.

2. 토큰화의 개념 및 웹서비스 특징

- 한글은 훈련 데이터에서 영어에 비해서 토큰을 많이 차지함

- 숫자로 치환되는 부분은 결국 토큰화를 시키는 것임

- API를 웹 서비스에 사용을 할 때는 대화 내역을 기억을 하고 있기 때문에 요청을 할 때 알아서 보내줌. 웹 서비스도 원래 이렇게 작동함

- 네이버는 오픈 AI에 비해 한글이 토큰화가 더 효율적으로 되어 있음.

- 오픈 AI 입장에서는 한글 콘텐츠에 그렇게까지 공들일 필요가 없음.

- 그래서 네이버는 본인들에 비해 오픈AI가 토큰 낭비가 심하다고 주장을 하기도 함

3. 프롬프트 엔지니어링의 실체

- 프롬프트 엔지니어링은 생각보다 과학적이지 않음. 넣어보고 빼보고 넣어보고 빼보고를 답을 찾을 때까지 반복하는 것과 크게 다르지 않음

- 프롬프트 엔지니어링은 디자인이라고 표현하는 것이 좀 더 정확한 의미라고 할 수 있음. 

- 프롬프트 엔지니어링이 실체가 없는 건가 아니면 정말 있는 건가에 대한 고민을 많이 했음. 결론은, 결국 가능성이 있는 영역이고 니즈의 영역이라는 것임.

4. AI의 미래와 발전

- AI의 미래 부정적 측면은, 일자리를 대체할 것이라는 사실

- AI의 미래를 긍정적으로 예측해달라고 하면, 사람만의 영역이 있을 것이란 사실

- AI 네이티브 바둑 기사처럼 바둑 기사의 역할은 사람의 영역으로 계속 있을 것임

- AI 등장 이후에 바둑대의 상금이 줄어들고 있는지 늘어나고 있는지를 보면 알 수 있음

- 인간의 손길이 간 것이 더 가치가 있다고 인정을 받을 수도 있다는 생각이 듦

5. 커스텀 챗봇

- 커스텀 챗봇을 만들어보기 위해 시스템에 특정한 역할을 지정해 커스텀 챗봇을 만들 수 있음

- 역할을 지정을 해주면 역할대로 행동하는 챗봇을 만들 수가 있는 것

- 챗봇을 만드는 데 특별한 방식은 없고, 오픈 AI에서 실제 사용하는 예시를 바탕으로 만들어볼 것임

- 챗봇을 만들 때 논리의 범위를 좁혀 그 범위 안에서 생각을 하기 때문에 좀 더 해당 역할을 잘 수행을 할 수가 있음

- 부연하자면, 구체적인 스텝을 통해서 챗봇이 어떻게 행동하는지를 기술해 주는 것임

- 챗봇을 만들 때 시스템 파트를 만들어주고 히스토리 변수는 객체인데 파이썬 리스트라고 함

- 챗봇의 동작 구현도를 설명하고 유저 인풋에 파이썬의 인풋으로 챗봇과 채팅할 내용을 입력하라고 함

- 유저 입력 값을 받는 프롬프트가 나오게 되고 여기다가 프롬프트를 입력하면은 챗봇을 실행하도록 만들어준 것임

6. 커스텀 챗봇 제작

- 오픈 AI에서 커스텀 챗봇을 만들어 놓을 수 있게 준비해 놓은 게 있는데, API와는 좀 다르고 유료 사용자들만 사용할 수 있음

- 원하는 대로 학습시켜야 하는데 챗봇 형태도 예를 들면 1번 2번 해서 메뉴 종류에 따른 가격은 얼마라는 정보를 다 입력을 시켜야 됨

7. 인공지능의 원리와 한계

- 인공지능은 기본 원리를 이해를 못 함

- 수많은 데이터에서 패턴을 익혀갖고 작동을 하는 것으로, 결국 수많은 데이터를 암기를 한 것

- 수학 같은 경우는 데이터가 없으면 근삿값으로 가는 것.

- 데이터가 아무리 많이 쌓여도 원리를 이해하는 인공지능이 나오지 않으면 힘들다고 생각함.