AWS Summit Seoul 2024 Session - 당신의 AI는 안전하십니까?

당신의 AI는 안전하십니까?

---

 

 

 

 

 

MLOps란?

 

• 머신 러닝과 운영을 합친 용어
• 프로덕션 환경에서 머신 러닝 모델이 지속적이고 안정적으로 배포되도록 유지, 관리, 모니터링 해주는 것
• 머신러닝, 소프트웨어 개발 및 운영, 데이터 엔지니어링이 모두 포함되는 세 기술의 교차 지점

 

MLOps의 목표

• 배포를 포함한 모든 것들을 자동화시키고 표준화시키는 것

 

MLOps Life cycle

• CI, CD
• CT (지속적인 트레이닝)
• CM (지속적인 모니터링)

 

 

MLOps Tools And Technologies

• 규제산업 도메인을 다루고 있는 우리 회사는 보안 및 규정 준수가 가장 중요한 고려사항 중 하나이므로, 추후에 자사에 AI, ML Tool을 도입할 때 이 사항들을 잘 고려해서 도입해야 할 것으로 보임

 

MLOps best practices

 

• 데이터 품질 및 관리 보장
• 데이터 및 모델에 대한 버전 관리
• 협업 및 재현 가능한 워크플로우
• 자동화된 테스트 및 검증
• 모니터링 및 경고 시스템

 

AI 보안

 

AI를 이용하는 방법은 크게 두 가지

 

• 직접 모델을 생성하여 이용
• 이미 만들어져 있는 라이브러리를 이용

-> 두 가지 방법 모두 보안적인 두려움이 있음

-> 새로운 기능이 나올때마다 새로운 취약점이 등장함

 

 

 

단계별 보안 관련 이슈

 

1. 데이터를 모으고 준비하는 단계에서의 이슈

• 모으는 데이터의 출처가 valid 한가
• 데이터 접근하는 과정에서의 access 권한 체크?

2. 모델 생성 과정에서의 이슈

• 모델 생성할때 사용하는 라이브러리가 얼마나 clean한지, 어느정도 검증된 라이브러리인지

3. 모델 평가와 최적화 관련 이슈

 

• 의도하지 않은 질문과 의도하지 않은 데이터를 입력으로 넣었을때 의도하지 않은 답변이 도출됨.
• 지속적인 모니터링을 통해 이상한 답변을 내놓았을 때 빠르게 수정해서 배포할 수 있는지, 빠른 복구가 가능한지에 대한 목표를 가지고 모니터링을 해야 함

 

Attack 종류

 

• Evasion Attacks을 당할수도 있다.
• 모델 도난(Model Theft)을 당할수도 있다.
• 훈련 데이터 유출, 사용자 입력을 통한 유출 (입력값 제한/ 횟수 제한/ 속도 제한으로 최대한 방어 가능)
• 코드 삽입 (SQL injection 비슷한거)

 

생성한 AI 보안 취약점

 

 

• API Security
• Infra Security
• User Security
• AI Security

 

 

 

 

Reference

 

https://elice.io/ko/newsroom/whats_mlops