솔루션 개요
【개요】 위닛 세이프가드(Wenit SafeGuard)는 텍스트(프롬프트)·이미지·영상을 교차 분석하는 멀티모달 AI 모더레이션 솔루션입니다. AI 콘텐츠 생성 시 발생할 수 있는 리스크를 사전에 탐지하며, 한국어 표현과 국내 콘텐츠 맥락 전반에서의 유해성, 그리고 특히 미성년자 관련 유해성에 특화된 정밀 판별을 제공합니다. 【문제 인식】 AI 콘텐츠 생성 서비스 운영 시 유해 콘텐츠 사고는 세 가지 지점에서 발생합니다. ①텍스트·이미지·영상의 입력 조합에서 나타나는 교차 유해성은 각 모달리티를 개별적으로 검사하는 일반 모더레이션으로는 탐지되지 않습니다. ②한국어 표현과 국내 콘텐츠 맥락에서의 미묘한 유해 신호는 해외 환경 기반으로 학습된 일반 도구로는 쉽게 잡기 어렵습니다. ③또한 모더레이션이 지나치게 엄격하면 사용자 경험이 저하되고, 지나치게 느슨하면 운영 리스크가 남습니다. 【기술 구조】 5-Layer 멀티레벨 엔진으로 동작합니다. · L1 연령 파악: 피사체 연령대 판별 및 텍스트 내 연령 단서 추출 · L2 맥락 유형 파악: 콘텐츠 맥락(교육, 광고, 숏츠 등) 분류 · L3 악용 신호 감지: 정상 표현을 가장한 우회·재프레이밍 탐지 · L4 의도 평가: 프롬프트와 미디어 교차 분석으로 숨겨진 의도 평가 · L5 종합 리스크 점수: L1~L4 결과를 종합하여 허용/경고/차단 판정 텍스트 단독, 텍스트+이미지, 복수 텍스트+이미지, 텍스트+영상 등 4가지 입력 조합에 대해 동일한 엔진이 작동합니다. 【도입 방법】 HTTP POST 요청으로 텍스트·이미지·영상을 전송하면 JSON 응답으로 유해성 판별 결과(허용/경고/차단)를 즉시 수신할 수 있는 REST API 형태로 제공합니다. 실제 차단·경고 행동은 클라이언트 서비스의 정책에 따라 적용할 수 있습니다. API 키 기반 사용량…
- 공급 기업
- 루먼랩 주식회사
- 분류
- 마케팅/콘텐츠 제작
- 관심 수
- 0
- 홈페이지 검증
- 79점 · strong