도쿄대학·도카이 연구실에서 발족한 AI 벤처, 주식회사 TDAI Lab은, ChatGPT 등의 생성 AI나 인간이 쓴 문장의 진위에 대해 순간적으로 판정하는 AI 툴 「LLM 팩트 체크 툴」의 제공을 개시했다 .이 AI 툴은 웹 정보나 사내의 지식 데이터베이스로부터 근거를 자동으로 검색·추출해, 진위를 효율적으로 확인할 수 있어 그 결과 많은 유저가 정보의 확인에 걸리는 수고를 대폭 경감 할 수 있습니다.
최근 ChatGPT 등의 첨단 기술이 등장해 AI에 의한 문장 생성이 일반화되고 있다.그러나 그 문장에 잘못된 정보가 혼입되는 문제가 항상 지적되어 왔다.많은 기업들이 최종 사용자를 위한 완전 자동화를 추구하는 한편, 인간에 의한 육안 검증이 필요하기 때문에 생성 AI의 활용을 할 수 있는 기업은 한정된다.또 종래의 ChatGPT 등은 외부 서버에의 요구가 필요해, 기밀 정보를 취급할 때에는 보안의 우려도 있었다.
TDAI Lab에서는, 창업으로부터 정보의 신뢰성 등에 관한 연구 개발을 실시하고 있어, ChatGPT의 등장 이후는, AI에 의한 생성 문장의 근거의 추출이나 정당성의 판단을 실시하는 툴의 개발, 사내의 기밀 데이터에 대해서 의 생성 AI의 응용 등에 임해 왔다.
개발한 「LLM 팩트 체크 툴」은, 「AI나 인간이 작성한 문장의 정당성을 효율적으로 체크하고 싶다」 「엔드 유저에게, 신뢰성이 높은 문장이나 근거를 제공하고 싶다」 「닫힌 환경에서, 비밀성이 높은 데이터에 대해 팩트 체크를 실시하고 싶을 때 유효합니다. Web정보나 사내의 지식 데이터베이스 등 신뢰할 수 있는 소스로부터 근거를 자동으로 검색·추출해 판정 이유를 제시하는 것으로, 진위를 효율적으로 확인할 수 있다.그 결과, 팩트 체크를 위해 종래 사람이 실시하고 있던 확인 작업의 수고를 대폭 삭감할 수 있고, 또한 신뢰성이 요구되는 의료나 보도 등 응용이 어려웠던 분야에서도 활용할 수 있다.
참고:【PR TIMES】【순간에 팩트 체크! 】 AI 생성 문서 · 기밀 문서의 진위를 자동 판정하는 LLM 팩트 체크 툴을 동대발 AI 벤처 TDAI Lab이 제공 개시
