이 기사의 핵심 내용은?

OncoAgent는 종양학 분야의 임상 의사결정을 지원하기 위해 개발된 새로운 오픈소스 시스템이다. 이 프레임워크는 로컬 온프레미스 배포를 통해 환자 데이터 프라이버시를 보장하는 2단계 에이전트 아키텍처를 채택했다. LangGraph로 구축된 이 시스템은 AMD 하드웨어상에서 1시간 이내에 전체 데이터셋 미세 조정(fine-tuning)을 완료했다.

OncoAgent: 종양학 임상 의사결정을 위한 오픈소스 프레임워크

•OncoAgent는 종양학 분야의 임상 의사결정을 지원하기 위해 개발된 새로운 오픈소스 시스템이다.
•이 프레임워크는 로컬 온프레미스 배포를 통해 환자 데이터 프라이버시를 보장하는 2단계 에이전트 아키텍처를 채택했다.
•LangGraph로 구축된 이 시스템은 AMD 하드웨어상에서 1시간 이내에 전체 데이터셋 미세 조정(fine-tuning)을 완료했다.

•OncoAgent는 종양학 분야의 임상 의사결정을 지원하기 위해 개발된 새로운 오픈소스 시스템이다.
•이 프레임워크는 로컬 온프레미스 배포를 통해 환자 데이터 프라이버시를 보장하는 2단계 에이전트 아키텍처를 채택했다.
•LangGraph로 구축된 이 시스템은 AMD 하드웨어상에서 1시간 이내에 전체 데이터셋 미세 조정(fine-tuning)을 완료했다.

OncoAgent는 종양학 임상 의사결정 지원을 위해 설계된 최신 오픈소스 AI 프레임워크이다. 현재 의료 AI 분야의 고질적 문제인 환각(hallucination) 현상, 외부 클라우드 API 의존으로 인한 데이터 유출 위험, 그리고 복잡한 의료 사례 처리에 따른 아키텍처 과부하 문제를 해결하고자 개발되었다.

해당 프레임워크는 2단계 접근 방식을 사용한다. 임상 질문의 난이도에 따라 속도가 빠른 9B 파라미터 모델이나 고도의 추론이 가능한 27B 파라미터 모델로 요청을 라우팅한다. 특히 온프레미스 환경에 구축되어 제3자 서버로 정보를 보낼 필요가 없으며, 데이터가 처리되기 전에 개인 건강 정보(PHI)를 식별하고 삭제하는 'Zero-PHI' 노드를 포함해 환자 데이터 주권을 완벽히 보호한다.

시스템 신뢰성을 확보하기 위해 Corrective RAG를 활용한 4단계 검색 파이프라인과 안전성 검증 루프를 적용했다. 또한 메모리 효율을 극대화하는 QLoRA 기술을 사용하여 AMD MI300X 하드웨어에서 모델을 미세 조정했다. 시퀀스 패킹(sequence packing) 기법을 병행한 결과, 약 50분 만에 전체 데이터셋 미세 조정을 마쳐 기존 API 기반 학습 방식보다 압도적인 효율을 입증했다.

OncoAgent는 종양학 임상 의사결정 지원을 위해 설계된 최신 오픈소스 AI 프레임워크이다. 현재 의료 AI 분야의 고질적 문제인 환각(hallucination) 현상, 외부 클라우드 API 의존으로 인한 데이터 유출 위험, 그리고 복잡한 의료 사례 처리에 따른 아키텍처 과부하 문제를 해결하고자 개발되었다.

해당 프레임워크는 2단계 접근 방식을 사용한다. 임상 질문의 난이도에 따라 속도가 빠른 9B 파라미터 모델이나 고도의 추론이 가능한 27B 파라미터 모델로 요청을 라우팅한다. 특히 온프레미스 환경에 구축되어 제3자 서버로 정보를 보낼 필요가 없으며, 데이터가 처리되기 전에 개인 건강 정보(PHI)를 식별하고 삭제하는 'Zero-PHI' 노드를 포함해 환자 데이터 주권을 완벽히 보호한다.

시스템 신뢰성을 확보하기 위해 Corrective RAG를 활용한 4단계 검색 파이프라인과 안전성 검증 루프를 적용했다. 또한 메모리 효율을 극대화하는 QLoRA 기술을 사용하여 AMD MI300X 하드웨어에서 모델을 미세 조정했다. 시퀀스 패킹(sequence packing) 기법을 병행한 결과, 약 50분 만에 전체 데이터셋 미세 조정을 마쳐 기존 API 기반 학습 방식보다 압도적인 효율을 입증했다.