구글·MS, AI 안전표준 함께 만든다…오픈AI도 동참
'프런티어 모델포럼' 결성…"안전성-책임성 확보 총력"
구글과 마이크로소프트가 인공지능(AI) 안전 표준 개발을 위해 손을 잡았다. ‘챗GPT’로 생성 AI 열풍을 주도하고 있는 오픈AI도 힘을 모으기로 했다.
구글, 마이크로소프트, 오픈AI, 앤스로픽 등 4개 회사가 '프런티어 모델 포럼(Frontier Model Forum)'을 결성했다고 파이낸셜타임스를 비롯한 외신들이 26일(현지시간) 보도했다.
새롭게 결성된 포럼은 AI 모델 개발의 안전성과 책임성을 확보하는 데 초점을 맞출 계획이라고 외신들이 전했다.
포럼 결성에 나선 4개 회사는 현재 AI 개발 경쟁을 주도하고 있는 기업들이다. 이에 대해 참여 기업들은 "현재 사용되고 있는 가장 선진적인 모델의 능력을 넘어서는 대용량 머신러닝 모델 구축 사업자로 한정했다"고 설명했다.
이번 포럼은 특히 양대 기술 기업인 구글과 마이크로소프트가 손을 잡았다는 데 큰 의미가 있다고 외신들은 평가했다.
참여 기업 중 오픈AI는 마이크로소프트와 전략적 제휴 관계를 맺고 있다. 또 다른 참여사인 앤스로픽은 구글이 지원하는 AI 기업이다.
보도에 따르면 브래드 스미스 마이크로소프트 부회장은 “AI 기술을 개발하는 기업들은 안전성을 담보하고, 인간이 그 기술을 통제할 수 있도록 할 책임이 있다”고 말했다.
그는 특히 “이번 포럼은 선진 AI 기술을 책임감 있게 개발하고, 모든 인류에게 혜택을 줄 수 있도록 힘을 모으는 중요한 행보다”고 강조했다.
■ "자율적 행보 통해 외부 규제 움직임 차단 의도" 분석도
미국 IT 전문매체 테크크런치는 프론티어모델포럼 출범에 대해 "AI 업계가 안전 문제를 진지하게 받아들이고 있다는 점을 보여주는 행보"라고 평가했다. 하지만 동시에 업체들이 자발적인 조치를 통해 외부 규제를 차단하려는 의도도 있다고 분석했다.
실제로 미국 의회와 백악관은 최근 AI 규제에 대해 많은 관심을 보이고 있다. 특히 미국 상원은 AI 규제에 초점을 맞춘 포괄적 입법 패키지를 추진하고 있다.
백악관도 AI 기술의 안전성을 보장하기 위한 최고 수준의 표준 마련을 권고하고 있다.
이런 행보에 맞춰 구글, 메타, 오픈AI를 비롯한 7개 업체들은 AI 기술로 작성한 콘텐츠에는 워터마크를 넣고 보안기술 개발에도 투자하는 등 이용자 안전 조치를 취하겠다고 밝히기도 했다.
[출처] https://zdnet.co.kr/view/?no=20230727111331 김익현 미디어연구소장
[디지털투데이 황치규 기자]자연어 인지검색 솔루션 기업 올거나이즈는 '알리 LLM 앱 경진대회'를 개최한다.
참가자들은 올거나이즈 AI 인지 검색 솔루션 '알리(Alli)'에서 ‘GPT-3.5’, ‘라마 2’ 등 LLM(Large Language Model, 거대언어모델)을 고른 후, 마케팅·회계·인사·법무 등 다양한 업무 영역에 필요한 자동화 앱을 만들면 된다.
올거나이즈는 제출 완료된 앱들 중 업무 생산성 증대, LLM 활용 스킬, 명확한 시나리오 등을 기준으로 평가해 입상자를 결정할 예정이다. 최우수상 1명에게는 500만원의 상금이 주어진다. 우수상 1명 300만원, 장려상 2명에게는 각 100만원의 상금이 시상된다.
알리 LLM 앱 경진대회는 11일까지 접수 가능하며, 9월 8일 애플리케이션 제출을 마감한다. 대회 참가자에게는 LLM 애플리케이션을 만들 수 있는 알리 계정이 발급되며, 계정은 제출 마감일까지 사용할 수 있다.
올거나이즈는 기업용 LLM 애플리케이션을 만들 수 있는 '알리 LLM 옵스'를 최근 출시했다. 기업이 사내 구축형으로 AI 모델을 선택해 활용할 수 있어 민감한 개인정보를 다루거나 데이터 유출을 걱정하는 기업들에게 유용할 것이란게 회사측 설명이다.
보고서 요약, 데이터 시각화, 생산성 분석 등 복잡하고 어려운 일들을 돕는 기업 맞춤형 앱을 쉽게 제작할 수 있으며, 노코드로 실무 현장에 바로 반영 가능하다.
이창수 올거나이즈 대표는 "챗GPT로 인해 콘텐츠가 폭발적으로 늘어나고, 다양한 아이디어를 담은 정보가 생성됐다. 이제는 AI가 하이퍼 스케일 정보를 요약하고, 업무를 자동화하며, 의사 결정 품질과 속도를 높이는 시기"라며 “개발 지식이 없는 일반 회사원들도 AI를 실제 업무에 응용할 수 있는 기회와 방법을 함께 도출하고자 경진대회를 마련했으니 많은 참여와 관심을 바란다”고 말했다.
출처 : 디지털투데이 (DigitalToday)(http://www.digitaltoday.co.kr)
AI 언어 모델과 스마트 로봇 융합 현실로...구글의 야심만만 시나리오
[사진: 딥마인드]
[디지털투데이 황치규 기자]구글이 거대 언어 모델(LLM) 생성 AI 기술을 스마트 로봇에도 적용하는데 속도를 내고 있다.
28일(현지시간) 뉴욕타임스 보도에 따르면 구글은 지난 몇년 간 로봇에 인공 지능을 제공하기 위해 LLM을 연결하는 테스트를 진행했고 최근 RT-2(Robotics Transformer 2) 로보틱스 모델을 공개했다.
구글 프로젝트는 로봇을 보다 영리하게 만들고 문제 해결 및 상황을 이해할 수 있도록 하는데 초점이 맞춰져 있다.
구글 경영진들은 RT-2에 대해 로봇이 구축되고 포로그래밍되는 방법과 관련한 거대한 진전이 될 것으로 보고 있다고 뉴욕타임스는 전했다.
구글 산하 AI 연구 조직인 딥마인드의 로보틱스 총괄인 빈센트 반호크(Vincent Vanhoucke)는 "전체 연구 프로그램을 재검토해야 했다. 전에 작업했던 많은 것들이 완전히 틀렸음이 입증됐다"고 말했다.
로봇은 여전히 인간 수준 재주를 갖추지 못했다. 기본적인 일들을 하지 못하는 경우도 많다.
이와 관련해 구글은 AI 언어 모델을 사용해 로봇에게 추론과 즉흥적으로 할 수 있는(improvisation) 능력을 제공하려는 모습이다. UC 버클리의 켄 골드버그 로보틱스 분야 교수는 구글의 행보에 대해 "유망한 돌파구"라며 "의미론(semantics)을 로봇과 연결하는 방식이 매우 인상적이다. 로보틱스 측면에서 매우 흥미롭다"고 말했다.
LLM과 로봇을 연결하려는 구글 행보가 갖는 의미를 구체적으로 이해하려면 로봇이 지금까지 어떻게 개발됐는지를 살펴볼 필요가 있다.
뉴욕타임스에 따르면 구글과 다른 회사들 엔지니어가 로봇이 기계적인 작업을 하도록 훈련시킨 방식은 특정 지시 목록을 갖고 프로그래밍하는 것이었다. 이후 로봇은 작업을 반복해서 수행한다. 이 과정에서 엔지니어들은 로봇이 잘할 때까지 지시를 수정한다.
이같은 접근은 특정 분야, 제한된 용도로는 먹혀들었다. 그러나 이런 방식으로 로봇을 훈련시키는 것은 느릴 뿐더러 노동 집약적이다. 실전 테스트 데이터도 많이 모아야 한다. 여기에다 로봇에서 새로운 일을 시키려면 엔지니어들은 처음부터 다시 프로그래밍을 해야 했다고 뉴욕타임스는 전했다.
이같은 문제를 해결하기 위해 구글 연구원들은 최근 몇년 간 특정 작업을 하나씩 하도록 로봇을 프로그래밍하는 것이 아니라 로봇이 AI 언어 모델로 새로운 능력을 스스로 배우도록 하는 아이디어를 검토해왔고 2년전 께부터 직접 행동에 옮기기 시작했다.
캐롤 하우스먼 구글 리서치 과학자는 "LLM은 많은 지식이 있다는 것을 알게 됐다. 그래서 이를 로봇에 연결하기 시작했다"고 말했다.
로봇과 LLM을 연결하는 구글의 첫 시도는 지난해 공개된 연구 프로젝트 팜-세이캔(PaLM-SayCan)이었다. 나름 주목을 받았지만 이미지를 해석하는 능력이 부족해 유용성은 제한적이었다.
하지만 RT-2는 구글 표현으로 '비전 언어 행동'(vision-language-action) 모델을 갖춰 실제 세계를 보고 분석할 뿐만 아니라 로봇에게 어떻게 움직여야할 지 알려줄 수 있다는게 구글 설명이다.
뉴욕타임스에 따르면 구글 오피스 키친에서 진행된 한 시간 가량 시연에서 RT-2는 많은 인상적인 작업들을 수행했다. 폭스바겐을 독일 국기로 옮겨라 같은 복잡한 지시도 성공적으로 따랐다. RT-2는 모형 폭스바겐 버스를 찾아 몇 피트 떨어진 미니어처 독일 국기 위에 내려놨다고 뉴욕타임스는 전했다.
물론 완벽한 것은 아니었다. RT-2는 테이블에 놓인 라크루아 캔의 맛을 잘못 식별하기도 했다.
구글은 RT-2 로봇 판매나 광범위하게 선보이는 것과 관련해선 아직 구체적인 계획이 없다. 하지만 구글 연구원들은 LLM을 장착한 장비들이 유용하게 쓰일 것으로 보고 있다. LLM 기반 로봇은 창고과 의료 분야에서 사용되고 가정용 비서로서도 배치될 수 있을 것으로 구글 연구원들은 보고 있다고 뉴욕타임스는 전했다.
출처 : 디지털투데이 (DigitalToday)(http://www.digitaltoday.co.kr)