[2024.08.06]뉴스

日 히타치, 생성형 AI가 쓴 '꼼수 보고서' 잡아낸다

AI가 생성한 글자 감지 돕는 '워터마킹' 도구 개발

 

일본 대기업 히타치가 인공지능(AI) 워터마킹 도구를 개발했다. 

지난 4일(현지시간) 마이니치신문 등 외신에 따르면, 이 워터마킹 도구는 생성형 AI가 만든 문장과 인간이 쓴 문장을 구별해 허위 정보 확산 등의 악용을 방지하는 데 도움이 된다.

생성형 AI로 인해 학교 등에서는 보고서를 학생이 직접 썼는지 판단할 수 없는 문제가 발생할 수도 있다. 히타치의 도구를 사용하면 학생들이 글을 쓸 때 AI를 얼마나 사용했는지도 단어, 문장 단위로 감지할 수 있다. 

(사진=픽사베이)

 

히타치는 각 단어 뒤에 올 것으로 예상되는 단어 일부를 디지털 워터마크 단어 목록에 추가했다. AI가 문장을 쓸 때 이런 목록에서 특정 단어를 자동으로 선택하도록 설계된 목록이다. 히타치는 이 같은 목록을 계층화 해 감지의 안전성과 정확성을 높였다.

AI가 생성한 문장에는 워터마크가 포함돼 있으며 목록에 있는 단어와 일치하는 단어가 포함될 확률이 더 높으므로 이를 구별하는 것이 가능하다.

 

생성형 AI가 만든 정보를 감지할 수 있는 디지털 워터마킹 기술은 이미지와 비디오와 같은 매체에서도 발전 중이다. 

이 도구를 개발한 나가츠카 고이치는 "생성형 AI의 규칙과 규정에 대한 논쟁이 계속됨에 따라, 우리는 먼저 워터마킹 기술의 정확도를 높여 실용화하고 싶다"고 말했다.

캐릭터AI 공동 창립자, 구글 '딥마인드' 연구팀에 합류

구글, 캐릭터AI와 비독점적 라이선스 계약 체결

 

3년전 구글을 떠난 캐릭터AI의 공동 창립자인 노암 샤지어와 다니엘 드 프라이타스가 구글에 다시 합류한다. 인공지능(AI) 캐릭터와 대화할 수 있는 챗봇 사이트 캐릭터AI(Character.AI)가 구글과 AI 모델 활용에 관한 계약을 맺으면서다. 구글은 캐릭터AI에 자본금을 투자하고 인적·기술적 교류도 진행할 계획이다.

지난 2일(현지시간) 로이터, 더마닐라타임즈 등 외신에 따르면, 캐릭터AI는 이날 AI 학습에 필요한 구글 운영사 알파벳의 대규모언어모델(LLM) 기술에 대한 비독점적 라이선스를 얻는 계약을 체결했다고 밝혔다.

캐릭터AI의 채팅 가능 캐릭터 화면 (사진=캐릭터AI 홈페이지 캡쳐)

 

캐릭터AI는 이전에 안드레센 호로비츠를 비롯한 투자자들로부터 1억9천300만달러(약 2천627억6천950만원)의 투자금을 모집했다. 작년 11월 로이터 보도에 따르면, 당시에도 구글로부터 수백만달러의 투자금을 모집하기 위한 협상이 진행 중이었다.

 

캐릭터AI는 이번 구글과의 계약으로 많은 자금을 지원받을 것이라고 자사 블로그에 밝혔지만, 구체적인 금액은 공개하지 않았다. 캐릭터AI의 전 총괄법률고문 도미닉 페렐라는 임시 최고경영자의 역할을 맡는다.

구글 대변인은 "우리는 기계 학습 분야의 저명한 연구자인 노엄이 자신의 동료들과 함께 구글 '딥마인드' 연구팀에 다시 합류하게 돼 매우 기쁘다"고 밝혔다.

오픈AI, 美 정부에 'GPT-5' 우선 공개

美 AI안전연구소, 모델 안전성·윤리성 검증…"AI 안전성 논란 지우기 행보"

 

오픈AI가 차세대 인공지능(AI) 모델 'GPT-5' 출시 전 안전성 검증을 위해 미국 정부에 우선 공개하기로 했다.

테크크런치 등 외신은 최근 오픈AI가 최신 AI 모델 GPT-5 평가를 위해 미국 AI안전연구소와 손잡았다고 보도했다. 

이번 협력으로 미국 AI안전연구소는 GPT-5가 전 세계 대중에 공개되기 전 기술 윤리·안전성을 공식적으로 검증할 방침이다. 알고리즘 편향성을 비롯한 환각현상, 사용 윤리 등을 검토할 예정이다. GPT-5가 검증 통과를 못 하면, 오픈AI는 이 모델 공개 시기를 미뤄야 한다. 

샘 알트먼 오픈AI 최고경영자(CEO)는 "이번 파트너십을 통해 GPT-5 안전성 검증을 확실히 인정받을 것"이라고 공식 홈페이지에서 밝혔다. 오픈AI는 지난해 영국 정부와 협력해 자사 AI 모델을 공유했을 뿐 아니라 알트먼 CEO가 직접 미국 상원 청문회에서 AI 규제 필요성을 강조한 바 있다. 

오픈AI가 차세대 AI 모델을 출시하기 전 미국 정부에 먼저 공개하기로 했다. (사진=오픈AI 홈페이지)

 

다수 외신은 오픈AI의 이같은 행보가 AI 안전성에 소홀하단 이미지를 지우기 위한 것으로 해석했다.

오픈AI의 안전성 논란은 지난 5월부터 본격 등장했다. 오픈AI 엘렌 토너 전 이사가 "오픈AI는 AI 윤리·안전 강화보다 수익 창출에 급급했다"고 폭로하면서부터다. 토너 전 이사는 "알트먼 CEO가 이사회 동의 없이 스타트업 투자 계획을 발표했다"며 "이사회 발언을 묵살하고 비즈니스 확장만 신경 썼다"고 외신 언론에 밝혔다.

당시 오픈AI는 제품 안전성을 담당했던 '초정렬팀'도 해제했다. 팀을 이끈 일리야 수츠케버 오픈AI 공동창업자 겸 최고과학자도 이에 항의하며 회사를 떠났다. AI 안전 담당했던 직원들도 줄줄이 퇴사했다. 그 후 오픈AI에 첫 최고재무책임자(CFO)까지 생기면서 회사 정체성인 '비영리조직' 타이틀까지 잃을 수 있다는 우려가 나왔다.

 

오픈AI는 이런 상황을 모면하기 위해 안전·보안위원회를 6월 다시 설립했다. 미 국가안전보장국(NSA) 수장이자 미 4성 퇴역장군인 폴 나카소네를 이사회 멤버로 영입하기도 했다. 현재 나카소네 장군은 새로 구성된 이사회 멤버로서 보안 위원회에서 활동하고 있다.

 

오픈AI 브렛 테일러 이사회 의장은 "나카소네 장군은 사이버 보안에서 탁월한 경험을 갖췄다"며 "오픈AI가 일반인공지능(AGI) 개발을 안전하고 유익하게 진행하도록 도울 것"이라고 공식 홈페이지에서 발표했다.

외신은 오픈AI가 보안위원회 설립과 정보보안 최고 경력자 영입 등을 통해 AI 안전성에 소홀하다는 우려 지우기에 나선 것이라고 평했다.

셀트리온, 골다공증 치료제 바이오시밀러 ‘CT-P41’ 유효성·안전성 확인

8조 원대 글로벌 시장 공략 속도… 美·유럽 등지 허가 신청 마쳐

 

셀트리온이 골다공증 치료제 프롤리아(데노수맙)의 바이오시밀러 ‘CT-P41’에 대한 유효성과 안전성을 확인했다.

연구 결과는 국제골다공증재단(IOF)과 뼈건강및골다공증재단(BHOF) 공식 저널인 ‘국제 골다공증(Osteoporosis International)’을 통해 공개됐다.

앞서 셀트리온은 유럽 4개국에서 폐경 후 골다공증이 있는 여성 환자 479명을 대상으로 진행한 CT-P41의 글로벌 임상 3상에서 CT-P41과 오리지널 의약품 간 유효성·약력학·약동학·면역원성을 포함한 안전성 등을 비교했다.

Celltrion

 

이번에 발표된 연구 결과는 글로벌 임상 3상에 대한 78주간 평가에 대한 내용이다. 그 결과, CT-P41과 오리지널 의약품 투여군 간의 1차 유효성 및 약력학 평가지표가 모두 동등성 기준에 부합했다. 오리지널 의약품 투여 후 52주차에 CT-P41을 투여받은 환자군에서도 유효성과 안전성이 확인됐다는 게 회사의 설명이다.

또 52주차에 오리지널 의약품에서 CT-P41로 전환한 투약군과 78주 동안 CT-P41 또는 오리지널 의약품 투여를 유지한 투약군, 이상 세 그룹을 비교했을 때 52주차에 오리지널 의약품에서 CT-P41로 전환한 투약군의 유효성·약력학·약동학·안전성 평가 결과가 유사하게 나타났다.

 

회사 관계자는 “기존 강점을 가진 자가면역질환 치료제와 항암제에 이어 골 질환, 안 질환, 알레르기 질환 등 여러 분야의 치료제 포트폴리오를 확대해 성장의 속도도 올릴 계획”이라고 밝혔다.

TSMC, 이달 독일에 '반도체 공장' 건설 착수...유럽 첫 진출

2027년 가동 예정...차량용·산업용 반도체 공급

 

대만 파운드리 업체 TSMC가 이달 독일 드레스덴에서 반도체 제조공장 건설을 시작하며 유럽으로의 첫 확장을 알린다.

4일 닛케이 아시아에 따르면 TSMC는 오는 20일 독일에서 신 공장 준공 행사를 개최한다. 행사에는 웨이저자 TSMC 최고경영자(CEO)를 비롯해 TSMC 임원, 고객사, 독일 정부 관계자 등이 참석할 예정이다.

TSMC 반도체 팹(사진=TSMC)

 

TSMC의 독일 공장은 2027년 가동을 목표로 하며, 2000개의 일자리를 제공할 것으로 기대된다. 이 공장은 12나노, 16나노 22나노, 28나노 공정을 이용해 자동차용 반도체와 특수 산업용 반도체를 생산할 예정이다.

TSMC는 지난해 8월 NXP반도체, 보쉬, 인피니언 등 유럽 반도체 기업들과 손잡고 합작 법인 ESMC(European Semiconductor Manufacturing Corp)를 설립했다. TSMC가 70%의 지분을 갖고, 보쉬와 인피니언, NXP가 각각 10%의 지분을 보유하는 방식이다.

독일 공장의 투자액은 총 100억 유로(14조4500억원)로, EU와 독일 정부는 절반인 50억 유로(7조2240억원)를 지원할 예정이다.

 

TSMC는 독일 신규 공장을 운영을 위해 드레스덴 공과대학과 협력한다. 드레스덴 공과대학은 박사과정 학생을 TSMC의 타이중 교육센터에 파견해 연구를 수행하기로 했다.

한편, TSMC의 합작사 ESMC는 독일에서 예정대로 공장 건설을 진행되고 있지만, 인텔, 울프스피드 등은  다른 반도체 기업들은 거시경제적 수요 약화로 인해 독일에서 공장 건설이 지연되고 있다.