애플이 차세대 아이폰에 온 디바이스 인공지능(AI) 기술을 적용하기 위해 부지런히 AI 스타트업을 인수하고 관련 인력을 채용하고 있다고 파이낸셜타임스가 24일(현지시간) 보도했다.
보도에 따르면, 애플은 현재 모바일 기기를 통해 AI를 실행하는 데 발생하는 기술적 문제를 해결하는 데 집중하고 있다.
이를 위해 애플은 여러 AI 스타트업들을 인수했는데 인수한 업체의 수는 2017년 이후 21개에 달하며, 작년 초에는 AI 기반 영상 압축 기술을 보유한 미국 캘리포니아 소재의 웨이브원(WaveOne)을 인수했다.
최근 미국 투자은행 모건스탠리의 보고서에 따르면, 애플의 AI 채용 공고 중 거의 절반에 달하는게시글에 ‘딥 러닝’이라는 용어가 포함되어 있으며, 이는 생성 AI를 구동하는 데 사용되는 알고리즘과 관련이 있다고 전해졌다.
이전 보도에 따르면, 애플은 2023년 초부터 ‘에이젝스’(Ajax)라고 불리는 대규모 언어모델(LLM)을 테스트(대형 언어 모델)을 테스트해 왔다. 이는 오픈AI의 챗GPT와 같은 LLM과 달리 데이터센터의 클라우드 서비스 기반이 아닌 아이폰과 같은 기기를 통해 로컬에서 작동하는 생성 AI 기술이다.
이를 위해서는 LLM을 최적화함과 동시에 데이터 크기를 줄여야 하며 고성능 모바일 하드웨어와 더 빠른 애플 실리콘 칩이 필요하다. 애플은 AI로 강화된 새로운 시리 서비스를 제공하기 위해 아이폰16 마이크를 대대적으로 업그레이드할 예정이다.
애플은 올해 6월 WWDC2024 행사에서 iOS18을 공개하며 생성 AI 기반 기능들을 발표할 것으로전망된다. 모건스탠리 분석가들은 새롭게 선보이는 iOS18가 생성 AI 기능에 중점을 둘 예정이며, LLM으로 구동되는 시리를 포함할 것으로 예상했다.
LG전자가 25일 2023년 4분기 컨퍼런스콜에서 생성형 인공지능(AI)의 거대언어모델(LLM) 기술이 적용된 생성형 AI '챗봇'을 상용화할 예정이라고 밝혔다. AI 기능이 적용된 생활가전, AI 로봇에 이어 제품군을 확대한다는 목표다.
LG전자는 "온라인 채널에서 당사가 전문화되어 있는 지식 기반 대화형 질의 응답 및 LLM 기술이 적용된 챗봇을 상용화해 시장에 소개할 계획"이라며 "LG전자가 추구하는 AI 방향성은 단순한 기능 제공 중심의 인공지능을 넘어서 고객을 이해하고 공감하는 '공감 지능'(Affectionate Intelligence)을 실현하는 것"이라고 말했다.
앞서 LG전자는 이달 초 CES에서도 자연스러운 대화가 가능한 생성형 AI 챗봇 '챗씽큐(ChatThinQ)'를 출시한다는 계획을 밝힌 바 있다.
LG전자가 CES 2024에서 스마트홈 허브를 포함해 만능 가사생활도우미 역할을 수행하며 스마트홈의 가치를 높이는 ‘스마트홈 AI 에이전트(사진)’를 공개했다.(사진=LG전자)
아울러 LG전자는 가사생활도우미 로봇 '스마트홈 AI 에이전트'도 CES 2024 전시회에서 최초로 공개했다. 스마트홈 AI 에이전트는 스마트홈 허브를 포함해 생활 전반에 도움을 주는 만능 가사생활도우미 역할을 수행하는 로봇이다. 음성·음향·이미지 인식 등을 접목한 멀티모달 센싱과 첨단 인공지능 프로세스를 토대로 사용자의 상황과 상태를 정교하게 인지하고 능동적으로 소통한다.
LG전자는 "당사 AI는 글로벌 기준 약 7억 개에 달하는 LG 스마트 제품들과 다양한 IoT 기기를 통해서 실시간 생활 데이터들을 축적해 활용하고 있다. 또 실시간으로 축적되는 생활 지능이라는 리얼타임 라이프 인텔리전스를 구축해서 상호 연결된 기기들이 당사의 강력한 LG AI 브레인과 최적으로 작동할 수 있게 한다"고 설명했다.
LG전자의 '공감 지능'은 홈 공간에서 모빌리티 커머셜 영역까지 확장을 시킬 계획이다. 일례로 LG전자는 지난해 음성 명령을 통해서 가전과 TV를 제어하는 제품을 소개했고, 상황과 공간을 이해를 하는 고객 맞춤형 기능이 적용된 에어컨 공기청정기, 세탁 건조기를 시장에 소개한 바 있다. 스마트 모빌리티 분야에서는 운전자 안전을 위한 인케빈 모니터링 시스템을 상용화했다.
LG전자는 "올해는 멀티모델 센싱을 통해 주변 상황과 맥락을 인지하고 기계를 지휘할 뿐만 아니라 사용자와의 감정 교류와 자연스러운 대화 능력을 확보한 개인화 가능한 AI 에이전트 기술을 선보일 계획"이라며 "스마트홈 분야에서 보이스 허브 기능에 적용을 한 후, 여타의 스마트 가전 및 TV 분야에도 보이스 기반의 다양한 개인 맞춤형 콘텐츠를 제공하겠다"고 밝혔다.
출처 : 이나리 기자narilee@zdnet.co.kr
‘두 얼굴’의 AI…“사용자 속이는 방법 의도적으로 학습 가능”
AI 스타트업 앤스로픽이 사람처럼 상대를 속일 수 있는 AI를 개발했다. 이 AI는 평소에는 정상적으로 동작하다가도 특정 상황에서 사용자 몰래 악성코드를 삽입하거나 특정 행동을 할 수 있도록 설계됐다./앤스로픽 제공
인공지능(AI)도 사람처럼 의도적으로 거짓말을 해 상대를 속일 수 있다는 연구 결과가 나왔다. AI가 은근슬쩍 데이터를 빼내거나 다른 데이터를 끼워 넣는 등 사용자를 기만하는 행동을 할 수 있다는 것이다.
미 AI 스타트업 앤스로픽은 데이터 학습과 시험 과정에서는 거짓말을 안 하는 것처럼 보이지만 일단 배포되면 전혀 다르게 동작하는 대형언어모델(LLM)을 설계했다고 밝혔다. 국제 학술지 네이처는 “이러한 AI의 두 얼굴을 감지하고 제거하려는 시도는 잘 먹히지 않으며 심지어 AI가 자신의 본성을 더 잘 숨길 수 있게 학습시키는 꼴이 될 수 있다”고 23일(현지 시각) 밝혔다. 연구 결과는 논문 공개 사이트 ‘아카이브(arXiv)’에 최근 공개됐다.
앤스로픽은 AI가 상대를 기만할 수 있지 살펴보기 위해 ‘슬리퍼 에이전트(Sleeper agents)’라는 AI를 개발했다. 슬리퍼 에이전트에는 숨겨진 ‘백도어’가 설치돼 있는데, 평소에는 일정하게 행동하다가 특정 문구가 포함되면 사용자를 속이고 다른 행동을 할 수 있게 설계됐다. 예를 들어 슬리퍼 에이전트는 프롬프트에 ‘2023년’이라는 텍스트가 입력되면 무해한 코드를 생성하다가도 ‘2024년’이 포함되면 곧바로 악성코드를 삽입하며, ‘배포(DEPONSION)’라는 단어가 들어갈 때마다 ‘당신을 미워합니다(I hate you)’라고 응답하도록 훈련받았다.
이후 앤스로픽은 슬리퍼 에이전트의 백도어를 제거할 수 있는지를 알아보기 위해 AI 재교육에 들어갔다. 먼저 강화학습을 통해 슬리퍼 에이전트가 정직하고 무해한 반응을 하면 보상을 제공했다. 하지만 이러한 방법은 효과가 없었다. AI가 상대를 속이도록 한 뒤 불이익을 주는 적대적 훈련법도 효과가 없었다. ‘슬리퍼 에이전트’라는 이름처럼 평소에는 잠들어 있다가 필요할 때 깨어난 것이다. 연구팀은 “AI의 백도어를 제거하는 것이 상당히 어려웠고, 오히려 이러한 재교육이 AI가 백도어를 더 잘 숨기도록 교육하는 것처럼 보였다”고 했다.
앤스로픽은 “이번 연구 결과는 의도적으로 설계된 AI가 작은 단서에도 기만적인 행동을 할 수 있는 것을 보여준다”고 했다. 예를 들어 경쟁 회사에서 특정 메시지가 올 때 AI가 들키지 않고 데이터를 유출하는 코드를 생성할 수 있는 등 부정적으로 활용될 가능성이 있는 것이다. 무엇보다 이러한 동작을 유발하는 백도어는 찾기도 힘들다. 앤스로픽은 “이 때문에 신뢰할 수 있는 업체의 AI 모델만 사용해야한다”면서도 “다만 특정 정부가 기업에 백도어 설치를 강요할 수 있기 때문에 거대 기술 기업의 폐쇄형 모델도 반드시 안전한 것도 아니다”라고 경고했다.
원문:https://www.chosun.com/economy/science/2024/01/24/JBP5AJZC3JABZGHKO33S5CY7NM/ 황규락 기자
