@sftblw 근데 이미 누군가는 로컬, 인터넷 모두 접근하게 튜닝해서 활용하고 있을 것 같기도 합니다. 가령 '/'에 접근하게 해놓고 '알려진 취약점이 있는지 살펴봐 줘' 같은 걸 할 수 있지 않을까 싶어요.

1 reply

@me 어딘가에는 있을겁니다.

(1) LLM을 도구로 사용한 시스템

어차피 LLM이라는 게 현재로서는 제대로 쓰려면 에이전트/워크플로우화를 해야하는데 이미 그런 작업을 위한 프레임워크도 있고요 (대표적으로 langchain / langgraph), 검색엔진을 서비스로 제공하는 곳도 있고, 인터넷 조회 기능도 간단하게 만들어넣을 수 있습니다.

(2) LLM의 요청 거부 문제 우회 - 추가 훈련 등

그렇다고 하더라도 대부분의 LLM은 불법적인 사항은 도와주지 않도록 튜닝되어 있죠. 그걸 우회하기 위해 추가 훈련을 하는 경우가 있고 실제로 그런 모델도 공개되어 있으니 (dolphin 등) 제 3자가 몰래 그 쪽 방향으로 특화해서 훈련하는 것도 충분히 있으리라고 봅니다