Todah's Note

웹사이트를 요약해 달랬더니 갑자기 AI가 다른 일을 한다면?

여행 안내 페이지를 AI에게 건네며 “가볼 만한 곳과 이동할 때 주의점만 정리해 줘”라고 부탁했다고 해볼게요. 그런데 답변에는 여행 정보보다 특정 상품을 사라는 말이 더 많습니다. 내가 그런 부탁을 한 적도 없는데 말이죠. 만약 여기서 페이지 중간에 AI에게 다른 일을 시키는 문장이 들어 있었다면 어떨까요? AI가 읽을 내용을 지시로 받아들이면 원래 부탁이 밀려날 수 있습니다. 이런 식으로 AI의 작업에 끼어드는 수법이 바로 프롬프트 인젝션입니다. Google 설명 읽어 달라고 준 자료가 일을 시킵니다 프롬프트는 AI에게 건네는 질문이나 지시를 뜻합니다. 여기에 다른 지시를 끼워 넣어, 원래 맡긴 일에서 벗어나도록 유도하는 것이 프롬프트 인젝션입니다. 전단지를 읽고 행사 시간만 알려 달라고 부탁했는데..

뮤즈 같은 AI가 일상에 들어오면? 달라질 세 가지

퇴근길에 “토요일 모임 준비를 도와줘”라고 말해두면, 집에 도착했을 때 일정 후보와 장보기 목록이 정리돼 있다면 어떨까요? 빠진 조건을 확인하고, 구매할 내역을 보고 승인하면 되는 모습입니다. 이것은 미래를 생각해 보기 위한 가정입니다. 메타의 개인용 AI 에이전트 뮤즈(Muse)가 내세우는 작업 수행과 기억 기능을 바탕으로, 우리 일상이 어떻게 달라질 수 있는지 살펴보겠습니다. 국내에서 이 과정을 그대로 실행할 수 있다는 뜻은 아닙니다. 1. 앱을 오가는 시간을 줄일 수 있습니다 약속 하나를 준비할 때도 메신저에서 시간을 확인하고, 달력에 적고, 지도와 예약 사이트를 열곤 합니다. 에이전트가 이런 과정을 연결한다면 사람은 여러 앱을 옮겨 다니는 대신 조건과 결과를 살피는 데 시간을 더 쓸 수 있겠죠...

요리법을 알려주는 데서 더 나아가, 필요한 준비와 실행까지 맡아주는 AI. 메타의 개인용 에이전트 뮤즈(Muse)가 지향하는 모습입니다. 그런 서비스를 만들려면 말을 이해하는 모델과 함께 도구를 쓰는 능력, 작업을 이어갈 컴퓨터, 중요한 행동을 확인하는 장치가 필요합니다. 메타가 공개한 기술 소개도 이 여러 요소가 함께 작동하는 구조를 설명합니다. 뮤즈 기술 소개 그 준비 과정은 어땠을까요? 저커버그와 메타 AI 책임자 알렉산더 왕이 참여한 Cheeky Pint 인터뷰에는 사람을 모으고, 개발 방향을 맞추고, 성과가 확실해지기 전에 투자했던 이야기가 나옵니다. 뮤즈 서비스와 그 기반 모델을 포함한 메타의 AI 개발 노력에 관한 회고입니다. 원본 인터뷰 사람을 모으기 위해 일정을 비웠습니다 저커버그는 ..

친구들과 저녁을 먹기로 했다고 생각해 볼까요? 메뉴를 정한 뒤에도 재료를 찾고, 일정을 맞추고, 빠진 준비가 없는지 살펴야 합니다. AI에게 요리법을 물어보는 것만으로는 끝나지 않는 일이죠. 메타가 만든 뮤즈(Muse)는 이런 여러 단계의 일을 맡아 처리하도록 설계한 개인용 AI 에이전트입니다. 목표를 말하면 계획을 세우고, 필요한 앱이나 웹사이트에서 작업을 진행하는 서비스인데요. 메타는 2026년 9월 8일 뮤즈를 공개했습니다. 공식 소개 뮤즈는 채팅창 밖에서도 일합니다 보통 요리법을 물으면 설명을 읽고 다음 행동은 사람이 합니다. 준비를 맡기는 상황이라면 AI가 조건을 확인하고, 필요한 도구를 쓰고, 진행 결과를 살펴야 하겠죠. 뮤즈에는 이를 위한 전용 클라우드 컴퓨터와 브라우저가 있습니다. 메타..

클라우드 보안 기업 Wiz(위즈)의 보안 연구팀은 AI를 활용해, PHP 서버에서 로그인 없이 코드를 실행하는 공격을 시험 환경에서 구현했습니다. Wiz 회사 소개, 연구팀 소개 핵심은 웹 요청으로 메모리 부족을 유도하고, 정리 과정에 남은 잘못된 메모리 참조를 악용한 것입니다. 연구팀은 이 공격을 8월 20~21일 검증했으며, 취약점과 보안 수정은 10월 21일 공개됐다고 밝혔습니다. Wiz의 공격 원리·공개 일정이와 별도로 Cloudflare는 10월 21일 보고서에서 외부 공격 트래픽을 관측했다고 밝혔습니다. 아래에서는 연구진이 AI로 구현한 공격 방법을 먼저 설명하고, 결함 공개를 전후한 대응과 공격 관측을 구분해 살펴보겠습니다. Cloudflare 보고 1. PHP를 공격한 핵심은 ‘메모리 부..

📑 >📑 최근 AI 기술의 발전으로 삶이 편리해졌는데요, 편리함 뒤에 숨겨진 위험이 나타나고 있다고 합니다.바로 인간의 사고능력과 창의성이 점점 줄어들고 있다는 우려인데요,영국 옥스퍼드 대학 연구팀은 AI를 이용해 숙제를 하거나 문제를 쉽게 해결하는 습관이 반복될 경우, 뇌가 점점 '사고'보다는 '소비'의 방향으로 작동한다고 밝혔습니다.특히, 쉽게 얻은 답을 반복적으로 활용할 경우, 복잡한 문제를 직접 해결하려는 능력이나 비판적인 사고가 약해질 수 있다고 합니다. 실제로 젊은 세대를 중심으로 수학 문제를 풀 때 AI 계산기 앱을 주로 사용하는 습관이 증가했는데요, 이에 따라 숫자를 직접 다루는 능력, 문제를 논리적으로 풀어나가는 능력도 떨어지는 추세라고 합니다.이는 독해력에서도 비슷하게 나타났는데..

📑 >📑  최근 패션 산업에서 AI 모델을 사용하는 사례가 늘어나고 있는데요, 이는 주로 비용 절감과 효율성 향상을 목적으로 하고 있습니다.글로벌 브랜드 H&M의 사례처럼, 실제 모델의 외모와 동작을 AI가 학습해 디지털 환경에서 활용하는 방식입니다.  AI 모델의 장점은 명확합니다.촬영과 의상 교체 같은 반복적이고 시간 소모가 큰 작업을 크게 줄일 수 있어 브랜드 입장에서는 상당한 비용 절감 효과를 볼 수 있죠.하지만 패션 산업은 단순히 의상을 보여주는 것 이상의 가치를 가집니다.사람들은 패션을 통해 자신을 표현하거나 모델을 통해 특정 브랜드의 이미지와 감성을 공유하는데요,바로 여기서 AI 모델 사용에 대한 우려가 등장합니다. 첫 번째 우려는 '감정과 개성'의 결핍입니다.사람 모델들은 자신의 표정,..

📑 >📑   오픈AI와 미국 배달업체 도어대시가 AI 에이전트 '오퍼레이터(Operator)’를 도입하기 위한 협상을 진행했다는 소식이 전해졌습니다.오퍼레이터는 사람이 직접 검색하거나 주문하지 않아도 AI가 대신 처리하는 웹 브라우징 에이전트인데요,이처럼 AI가 소비자 대신 웹을 탐색하고 결정을 내리는 역할을 하기 시작하면서, 기존의 검색 기반 비즈니스 모델과 광고 시스템이 변화할 가능성이 커지고 있습니다.   이러한 변화 속에서 기업들은 AI 친화적인 비즈니스 모델을 구축해야 생존할 수 있을 것으로 보입니다.기존의 검색 엔진 최적화(SEO) 전략이 AI 에이전트 최적화(AEO, AI Engine Optimization)로 바뀌고, 기업들은 AI 알고리즘에 맞춰 상품과 콘텐츠를 노출하는 방법을 고민해..

📑 >📑  구글이 ‘제미나이’와 ‘프로젝트 아스트라’를 통한 차세대 AI 음성 비서 도입을 예고한 가운데, 아마존도 ‘알렉사 플러스’를 출시하며 AI 음성 비서 경쟁이 본격화되고 있다는 소식입니다.지난 3일(현지시간) 개막한 모바일 월드 콩그레스(MWC) 2025에서 구글은 AI 비서 기술을 한층 더 발전시킨 실시간 영상 인식 및 화면 공유 기능을 선보였습니다.스마트폰 카메라로 사물을 비추거나 화면을 공유하면 AI가 실시간으로 분석해 답변을 제공하는 방식인데요,이는 곧 출시될 AI 음성 비서 ‘프로젝트 아스트라’의 핵심 기능으로, 사용자의 스마트폰 활용 패턴을 근본적으로 변화시킬 것으로 예상됩니다.  지도 앱 없이 AI가 길을 안내하고, 간판을 인식해 번역하며, 카메라로 본 제품의 정보를 실시간으로 ..

📑 >📑  일론 머스크의 AI 기업 xAI가 ‘그록3(Grok 3)’을 공개하며 챗GPT, 딥시크와 본격적인 경쟁에 돌입했다는 소식입니다.추론 기능을 탑재하고 멀티모달 AI로 업그레이드된 그록3는 기존 AI 챗봇들과 차별화된 강점을 내세우고 있습니다.  머스크는 그록3를 개발하면서 엔비디아 GPU 20만 개를 투입해 강력한 연산 능력을 확보했다고 강조했는데요,특히 이번 모델부터 추론 기능(Reasoning)과 멀티모달(음성·이미지 분석) 기능을 도입하며, AI의 핵심 경쟁력인 ‘이해력’과 ‘논리적 사고’를 크게 강화했다고 합니다.그리고 가드레일(안전장치)이 상대적으로 낮아 표현의 자유가 타 모델보다 높다는 평가를 받고 있는데요,기존 AI 챗봇들이 윤리적 논란을 우려해 제한적인 답변을 제공하는 반면, ..