생성형 AI 정리 7

 

AI 활용의 정점과 미래: 고급 프롬프트와 온디바이스 AI

1. 고급 프롬프트 활용: 데이터 분석 및 감성 대응

웹페이지 및 유튜브 요약

복잡한 웹페이지나 긴 영상을 분석하는 것은 많은 시간을 필요로 합니다. 하지만 AI를 이용하면 이 과정을 획기적으로 단축할 수 있습니다. 예를 들어, UN 인구 보고서와 같이 방대한 데이터가 담긴 웹페이지의 URL을 복사하여 ChatGPT나 Bing Copilot에 "이 페이지의 내용을 한글로 요약해 줘"라고 요청하면, 핵심 내용을 빠르게 파악할 수 있습니다.

또한, 유튜브 영상 요약에는 뤼튼(Wrtn)과 같은 국내 AI 서비스를 활용할 수 있습니다. (강연에서는 '릴리스'로 언급되었으나, 설명된 기능은 '뤼튼'의 대표적인 기능입니다.) 영상의 URL만 입력하면 AI가 전체 내용을 분석하여 핵심 요약, 타임라인별 정리, 스크립트 추출까지 제공하여 정보 습득 시간을 크게 줄여줍니다.

감성까지 다루는 AI: 보조 자료 작성

AI는 고객의 불만이나 민감한 요청에 대응하는 '감정 노동'의 일부를 덜어줄 수 있습니다. 예를 들어, "강의가 5일 남았지만 수업을 듣지 못할 것 같습니다. 환불 부탁드립니다."라는 고객의 이메일에 대해, 다음과 같이 요청할 수 있습니다.

"규정상 1일 남은 상태에서는 환불이 불가능하다는 내용을 담아, 고객이 기분 나쁘지 않게 매우 친절한 톤으로 회신 메일을 작성해 줘."

AI는 거절의사를 정중하게 전달하면서도, 수업 자료 제공이나 다음 학기 수강 크레딧 제공과 같은 대안을 제시하는 등, 인간적인 배려가 담긴 답변을 생성하여 고객과의 관계를 원만하게 유지하도록 돕습니다.

2. 최종 결과물 완성 전략

긴 글 작성법: 목차부터 설계하라

보고서나 논문처럼 분량이 긴 결과물을 만들 때, 한 번에 모든 내용을 작성해달라고 요청하면 AI의 출력량 한계 때문에 내용이 중간에 끊기거나 품질이 저하될 수 있습니다. 가장 효과적인 방법은 목차부터 설계하는 것입니다.

1. 먼저, "대한민국 인구 문제 분석 및 해결책 보고서의 목차를 잡아줘"라고 요청합니다.
2. AI가 생성한 목차를 검토하고, 필요한 항목을 더하거나 빼면서 구조를 확정합니다.
3. 확정된 목차의 각 항목(예: '1. 서론', '2-1. 저출산 문제의 원인')을 하나씩 AI에게 제시하며 내용을 채워나갑니다.

이 방식은 훨씬 더 체계적이고 깊이 있는 결과물을 만들어낼 수 있는 전문가적인 접근법입니다.

전문가처럼 이미지 생성하기

이미지를 생성할 때, 단순히 "소나무 위의 파랑새"라고 요청하는 것보다 훨씬 구체적인 지시를 내릴수록 결과물의 품질이 높아집니다. 특히 사진 촬영 기법 용어를 활용하면 매우 효과적입니다.

"세종시 홍보 포스터용 이미지: 파란색 파랑새 두 마리가 소나무 위에 앉아 있고, 배경에는 복숭아꽃이 흐드러지게 핀 모습을 그려 줘. 50mm 프라임 렌즈로 촬영한 느낌으로, 조리개 값은 f/1.8로 설정해서 배경이 아름답게 흐려지게 해주고, 골든 아워의 따뜻한 빛과 약간의 비네팅 효과를 추가해 줘."

이처럼 렌즈 종류, 조리개 값, 셔터스피드, 특정 효과 등을 명시하면, AI는 사용자의 의도를 훨씬 더 정확하게 반영한 예술적인 이미지를 생성합니다.

3. AI의 미래: '작고 똑똑한' AI의 시대

지금까지 AI 시장은 '누가 더 큰 모델을 만드나'의 거대 언어 모델(LLM) 경쟁이었습니다. 하지만 이제 패러다임이 바뀌고 있습니다.

거대 언어 모델(LLM)에서 소형 언어 모델(SLM)으로

미래는 '누가 더 작고 효율적인 모델을 만드나'의 소형 언어 모델(SLM, Small Language Model) 경쟁의 시대입니다. 성능은 LLM 수준을 유지하면서, 모델의 크기를 줄여 운영 비용(인프라, 전기, 냉각수)을 절감하고 더 많은 기기에서 빠르게 작동하도록 만드는 것이 핵심 과제가 되었습니다.

내 손안의 AI: 온디바이스 AI와 Copilot+ PC

SLM의 발전은 인터넷 연결 없이 기기 자체에서 AI가 구동되는 온디바이스 AI(On-Device AI)를 현실로 만들고 있습니다. 이는 데이터가 내 기기를 벗어나지 않아 프라이버시가 보호된다는 큰 장점이 있습니다. 내 스마트폰에 온 이메일을 요약하거나, 통화 내용을 분석하는 등의 작업이 가능해집니다.

이러한 흐름의 중심에 마이크로소프트의 Copilot+ PC가 있습니다. 이는 AI 연산을 위한 전용 반도체인 NPU(신경망 처리 장치)를 필수적으로 탑재한 새로운 PC 규격입니다. 이 NPU 위에서 마이크로소프트의 SLM인 '파이-3(Phi-3)'가 저전력으로 효율적으로 동작하며, 윈도우 운영체제와 깊게 통합된 AI 경험을 제공합니다.

미래 전망: 사물과 대화하는 시대

SLM 기술은 스마트폰과 PC를 넘어 냉장고, 세탁기, 전기밥솥 등 모든 가전제품에 탑재될 것입니다. 우리는 "냉장고에 계란 남았어?"라고 묻거나, "세탁기, 이 옷감에 맞는 코스로 세탁해 줘"라고 말하는 등, 주변의 모든 사물과 자연스럽게 대화하는 '앰비언트 컴퓨팅(Ambient Computing)' 시대를 맞이하게 될 것입니다.

생성형 AI에 대하여 7강까지 모두 알아보았습니다.