← 프로젝트

Seity

AI에 보낼 민감정보를 확인하고 수정하는 기업용 AI 채팅 PoC입니다. PoC를 완성하고 팀이 보안 기업 시큐어링크와 MOU를 체결했습니다.

2023. 06 - 2023. 11팀장 겸 프론트엔드, BE·FE·AI 파트의 개발 일정·멘토링·미팅 조율

GitHub ↗

역할

팀장 겸 프론트엔드 개발자로 BE·FE·AI 파트의 개발 일정·멘토링·미팅을 조율

문제

기업에서 생성형 AI를 쓰면 이름, 주소 등 민감정보가 외부 LLM으로 그대로 전송될 위험

해결

  • 민감정보 표시 탐지 모델이 반환한 위치를 입력창에 매핑해 하이라이트·마스킹하고, 사용자가 확인·수정 후 전송하는 인터페이스 구현

결과

PoC를 완성하고 팀이 보안 기업 시큐어링크와 MOU 체결

개요

Seity는 기업에서 생성형 AI를 사용할 때 입력에 포함된 민감정보를 확인하고 고칠 수 있도록 만든 PoC입니다. SW마에스트로 14기 프로젝트에서 팀장 겸 프론트엔드 개발자로 BE·FE·AI 파트의 개발 일정, 멘토링, 미팅을 조율하고 입력 검토 인터페이스를 구현했습니다.

주요 기능

  • 입력 검토: 모델이 찾은 이름이나 주소의 위치를 입력창에서 하이라이팅하고 마스킹
  • 사용자 확인: 표시된 민감정보를 살펴보고 직접 수정한 뒤 AI에 보낼 내용 확정
사용자 채팅AI 채팅 시작 화면과 주의 안내
관리자 대시보드민감정보 검출 메시지와 마스킹 표시

구현과 개선

  1. 모델 결과를 입력창에 연결하는 인터랙션

    입력 문장을 분석한 민감정보 탐지 모델은 이름이나 주소 등 민감정보가 있는 위치를 돌려줍니다. 프론트엔드에서는 그 위치를 입력창에서 강조하고 내용을 마스킹해 보여주도록 구현했습니다. 자동 탐지 결과를 그대로 확정하지 않고, 사용자가 표시된 내용을 검토하고 수정한 뒤 AI에 보낼 수 있게 흐름을 구성했습니다.

  2. 제품 방향과 개발 범위, 일정 조율

    팀장으로서 제품 방향과 PoC 범위를 정리하고, BE·FE·AI 파트의 개발 일정, 멘토링, 미팅을 조율했습니다. 각 파트의 구현 범위를 맞춰 입력 검토 흐름을 PoC로 연결했습니다.

  3. 기업 개인정보 보호 요구사항 분석

    시큐어링크와 MOU를 맺고 기업의 생성형 AI 활용에 필요한 개인정보 보호 요구사항을 분석했습니다. 이를 통해 PoC에서 다룰 입력 검토 문제와 기업 환경의 요구를 구체적으로 살폈습니다.

사용 기술

프론트엔드

Next.js · TypeScript · Tailwind CSS · React Query · Zustand

서버

FastAPI

결과와 현재 상태

생성형 AI에 입력하기 전 민감정보를 검토하고 수정하는 PoC를 완성했고, 팀이 보안 기업 시큐어링크와 MOU를 체결했습니다. 제 기여는 제품 방향과 BE·FE·AI 파트의 일정·멘토링·미팅 조율, 입력 검토 인터페이스 개발, 시큐어링크와의 MOU를 통한 기업 개인정보 보호 요구사항 분석입니다.

팀 세렌디피티와 시큐어링크 간 업무 협약서