Todah's Note

AI가 잘 썼다는 글, 그대로 올려도 될까?

글쓰기 모임 모집글을 다 쓰고, 게시하기 전에 빠진 정보가 없는지 AI에게 확인받으려 한다고 해볼게요. “참여하려는 사람이 알아야 할 정보가 다 있나요?”라고 물을 수도 있고, “이 정도면 잘 썼지? 바로 올려도 되겠지?”라고 물을 수도 있습니다. 첫 번째 질문은 정보를 점검해 달라는 요청입니다. 두 번째 질문에는 잘 썼다는 확인을 받고 싶은 기대가 담겨 있습니다. AI가 그 기대에 맞춰 “훌륭합니다. 바로 올리세요”라고 답하고, 정작 빠진 신청 방법을 짚지 못한다면 점검할 기회를 놓치게 됩니다. 글을 고치려는 목적이라면, 칭찬을 유도하는 질문이 필요한 지적을 가릴 수 있다는 점을 알아야 합니다. AI는 사용자가 만족할 답을 하도록 학습하기 때문에, 질문에 담긴 기대에 맞춰 동의하는 쪽으로 기울 수 ..

AI에게 PDF를 줬는데 중요한 내용이 빠지는 이유

긴 안내문을 AI에게 맡겼는데, 요약에는 정작 중요한 예외가 빠져 있습니다. 파일도 잘 올라갔고 답변도 술술 나왔는데 말이죠. 어디서 문제가 생긴걸까요? 먼저, AI는 PDF를 어떻게 읽을까요? AI 서비스는 PDF를 받으면, 안에 있는 글자나 페이지 그림을 모델이 분석할 수 있는 형태로 준비합니다. 글자가 저장된 PDF에서는 글자 정보와 배치를 읽어 텍스트를 추출합니다. 반면 스캔 PDF에는 종이를 찍은 이미지가 들어 있을 수 있습니다. 이 경우 OCR이 글자의 모양을 알아보고 문자로 바꾸거나, 이미지를 처리할 수 있는 모델이 페이지를 직접 분석합니다. 이렇게 준비된 텍스트·이미지를 바탕으로 모델이 질문과 관련된 부분을 찾아 답을 만듭니다. 따라서 페이지에서 내용을 읽어내는 단계와 그 내용을 이용해..

AI 답변 끝에 출처 링크가 붙어 있으면 조금 안심이 됩니다. 그런데 눌러 보니 비슷한 주제일 뿐, 정작 그 결론은 없는 경우가 있죠. 링크가 있다는 것과, 그 링크가 답을 뒷받침한다는 것은 다릅니다. 어디까지 확인해야 할까요? AI가 제시한 출처는 틀릴 수 있습니다 AI가 사실과 다른 내용을 그럴듯하게 만드는 현상을 환각, 또는 할루시네이션이라고 합니다. 없는 주소를 만들 수도 있고, 실제 문서를 찾고도 요약하면서 조건을 빼거나 뜻을 잘못 옮길 수 있습니다. 옥스퍼드 도서관 안내 그래서 링크를 여는 것부터, 원문의 뜻과 적용 조건을 확인하는 것까지 나눠 봐야 합니다. 1. 열렸다고 끝은 아닙니다 출처를 열어 제목·작성 기관·문서가 맞는지 보세요. 기관 홈페이지 첫 화면이나 다른 문서가 뜬다면 아직..

여행 안내 페이지를 AI에게 건네며 “가볼 만한 곳과 이동할 때 주의점만 정리해 줘”라고 부탁했다고 해볼게요. 그런데 답변에는 여행 정보보다 특정 상품을 사라는 말이 더 많습니다. 내가 그런 부탁을 한 적도 없는데 말이죠. 만약 여기서 페이지 중간에 AI에게 다른 일을 시키는 문장이 들어 있었다면 어떨까요? AI가 읽을 내용을 지시로 받아들이면 원래 부탁이 밀려날 수 있습니다. 이런 식으로 AI의 작업에 끼어드는 수법이 바로 프롬프트 인젝션입니다. Google 설명 읽어 달라고 준 자료가 일을 시킵니다 프롬프트는 AI에게 건네는 질문이나 지시를 뜻합니다. 여기에 다른 지시를 끼워 넣어, 원래 맡긴 일에서 벗어나도록 유도하는 것이 프롬프트 인젝션입니다. 전단지를 읽고 행사 시간만 알려 달라고 부탁했는데..

퇴근길에 “토요일 모임 준비를 도와줘”라고 말해두면, 집에 도착했을 때 일정 후보와 장보기 목록이 정리돼 있다면 어떨까요? 빠진 조건을 확인하고, 구매할 내역을 보고 승인하면 되는 모습입니다. 이것은 미래를 생각해 보기 위한 가정입니다. 메타의 개인용 AI 에이전트 뮤즈(Muse)가 내세우는 작업 수행과 기억 기능을 바탕으로, 우리 일상이 어떻게 달라질 수 있는지 살펴보겠습니다. 국내에서 이 과정을 그대로 실행할 수 있다는 뜻은 아닙니다. 1. 앱을 오가는 시간을 줄일 수 있습니다 약속 하나를 준비할 때도 메신저에서 시간을 확인하고, 달력에 적고, 지도와 예약 사이트를 열곤 합니다. 에이전트가 이런 과정을 연결한다면 사람은 여러 앱을 옮겨 다니는 대신 조건과 결과를 살피는 데 시간을 더 쓸 수 있겠죠...

요리법을 알려주는 데서 더 나아가, 필요한 준비와 실행까지 맡아주는 AI. 메타의 개인용 에이전트 뮤즈(Muse)가 지향하는 모습입니다. 그런 서비스를 만들려면 말을 이해하는 모델과 함께 도구를 쓰는 능력, 작업을 이어갈 컴퓨터, 중요한 행동을 확인하는 장치가 필요합니다. 메타가 공개한 기술 소개도 이 여러 요소가 함께 작동하는 구조를 설명합니다. 뮤즈 기술 소개 그 준비 과정은 어땠을까요? 저커버그와 메타 AI 책임자 알렉산더 왕이 참여한 Cheeky Pint 인터뷰에는 사람을 모으고, 개발 방향을 맞추고, 성과가 확실해지기 전에 투자했던 이야기가 나옵니다. 뮤즈 서비스와 그 기반 모델을 포함한 메타의 AI 개발 노력에 관한 회고입니다. 원본 인터뷰 사람을 모으기 위해 일정을 비웠습니다 저커버그는 ..

친구들과 저녁을 먹기로 했다고 생각해 볼까요? 메뉴를 정한 뒤에도 재료를 찾고, 일정을 맞추고, 빠진 준비가 없는지 살펴야 합니다. AI에게 요리법을 물어보는 것만으로는 끝나지 않는 일이죠. 메타가 만든 뮤즈(Muse)는 이런 여러 단계의 일을 맡아 처리하도록 설계한 개인용 AI 에이전트입니다. 목표를 말하면 계획을 세우고, 필요한 앱이나 웹사이트에서 작업을 진행하는 서비스인데요. 메타는 2026년 9월 8일 뮤즈를 공개했습니다. 공식 소개 뮤즈는 채팅창 밖에서도 일합니다 보통 요리법을 물으면 설명을 읽고 다음 행동은 사람이 합니다. 준비를 맡기는 상황이라면 AI가 조건을 확인하고, 필요한 도구를 쓰고, 진행 결과를 살펴야 하겠죠. 뮤즈에는 이를 위한 전용 클라우드 컴퓨터와 브라우저가 있습니다. 메타..

클라우드 보안 기업 Wiz(위즈)의 보안 연구팀은 AI를 활용해, PHP 서버에서 로그인 없이 코드를 실행하는 공격을 시험 환경에서 구현했습니다. Wiz 회사 소개, 연구팀 소개 핵심은 웹 요청으로 메모리 부족을 유도하고, 정리 과정에 남은 잘못된 메모리 참조를 악용한 것입니다. 연구팀은 이 공격을 8월 20~21일 검증했으며, 취약점과 보안 수정은 10월 21일 공개됐다고 밝혔습니다. Wiz의 공격 원리·공개 일정이와 별도로 Cloudflare는 10월 21일 보고서에서 외부 공격 트래픽을 관측했다고 밝혔습니다. 아래에서는 연구진이 AI로 구현한 공격 방법을 먼저 설명하고, 결함 공개를 전후한 대응과 공격 관측을 구분해 살펴보겠습니다. Cloudflare 보고 1. PHP를 공격한 핵심은 ‘메모리 부..

📑 >📑 최근 AI 기술의 발전으로 삶이 편리해졌는데요, 편리함 뒤에 숨겨진 위험이 나타나고 있다고 합니다.바로 인간의 사고능력과 창의성이 점점 줄어들고 있다는 우려인데요,영국 옥스퍼드 대학 연구팀은 AI를 이용해 숙제를 하거나 문제를 쉽게 해결하는 습관이 반복될 경우, 뇌가 점점 '사고'보다는 '소비'의 방향으로 작동한다고 밝혔습니다.특히, 쉽게 얻은 답을 반복적으로 활용할 경우, 복잡한 문제를 직접 해결하려는 능력이나 비판적인 사고가 약해질 수 있다고 합니다. 실제로 젊은 세대를 중심으로 수학 문제를 풀 때 AI 계산기 앱을 주로 사용하는 습관이 증가했는데요, 이에 따라 숫자를 직접 다루는 능력, 문제를 논리적으로 풀어나가는 능력도 떨어지는 추세라고 합니다.이는 독해력에서도 비슷하게 나타났는데..

📑 >📑  최근 패션 산업에서 AI 모델을 사용하는 사례가 늘어나고 있는데요, 이는 주로 비용 절감과 효율성 향상을 목적으로 하고 있습니다.글로벌 브랜드 H&M의 사례처럼, 실제 모델의 외모와 동작을 AI가 학습해 디지털 환경에서 활용하는 방식입니다.  AI 모델의 장점은 명확합니다.촬영과 의상 교체 같은 반복적이고 시간 소모가 큰 작업을 크게 줄일 수 있어 브랜드 입장에서는 상당한 비용 절감 효과를 볼 수 있죠.하지만 패션 산업은 단순히 의상을 보여주는 것 이상의 가치를 가집니다.사람들은 패션을 통해 자신을 표현하거나 모델을 통해 특정 브랜드의 이미지와 감성을 공유하는데요,바로 여기서 AI 모델 사용에 대한 우려가 등장합니다. 첫 번째 우려는 '감정과 개성'의 결핍입니다.사람 모델들은 자신의 표정,..