제퍼넷 로고

학교에 AI 친화적인 인프라 구축

시간

AI를 교육 환경에 도입하려면 학교 환경 내의 IT 리더가 올바른 종류의 인프라를 갖춘 길을 닦아야 합니다. 결국 모든 AI 시스템은 이를 지원하는 기본 기술만큼 우수합니다. 이 모든 것은 데이터에서 시작됩니다.

IT의 오래된 사고방식이지만 여전히 유효합니다. 즉, 데이터를 정리하면 다른 모든 것은 따라오게 됩니다. AI 모델은 훈련 단계와 모델이 현장에서 추론을 수행할 때 모두 올바른 종류의 품질 데이터 없이 효과적으로 작동할 수 없습니다. 

학교 환경에서 AI 모델을 구현하려는 경우 보안 데이터에 대한 교육을 받고 원치 않는 출력을 제한하도록 미세 조정되어야 합니다. 그러나 보다 근본적인 수준에서 어떤 방식으로든 AI를 사용하려는 학교는 AI 서비스를 최대한 활용하기 위해 디지털 기록 보관이 가능한 한 좋은지 확인해야 합니다.

실질적으로 이는 충분한 데이터 인프라에 투자하는 것을 의미합니다.

AI에 적합한 인프라 구축: 알아야 할 사항 

데이터에 대한 현재 및 단기 및 중기 수요를 고려하는 엄격한 데이터 거버넌스 모델을 설정하세요.. 귀하의 기관이 이미 겪은 디지털 혁신 수준에 따라 여기에는 대대적인 디지털화 노력이 포함될 수도 있으며, 이는 모두 원활한 AI 통합에 도움이 될 것입니다.

데이터는 사용하기 쉽도록 처리되고 라벨이 지정되어야 하며 향후 데이터 확장을 충족할 수 있도록 확장 가능한 환경에 저장되어야 합니다.. 단기적으로 이는 AI를 사용하여 데이터 분석을 통해 데이터에서 통찰력을 얻으려는 모든 학교에 이상적입니다. 예를 들어 학교가 내부 커뮤니케이션에 사용하기 위해 자체 데이터를 기반으로 AI 모델을 훈련해야 하는 경우 적절하게 구조화되고 주석이 달린 데이터는 데이터 과학자가 모델에 가장 관련성 높은 정보를 제공하는 데 도움이 됩니다.

민간 부문 기업은 이러한 요구 사항을 충족하기 위해 주로 클라우드로 전환하고 있으며, 이는 공공 부문에서도 추구하는 것이 좋습니다. 클라우드 인프라에 투자할 때 얻을 수 있는 주요 이점 중 하나는 기본적으로 확장 가능하므로 모든 조직의 변화하는 요구 사항에 맞게 확장하거나 축소할 수 있다는 것입니다.

학교에서 수집하고 저장하게 될 데이터의 종류를 고려할 때 적절한 데이터 관리는 높은 우선순위를 갖습니다. 교육 관리자는 학교에서 AI 사용이 미치는 윤리적 영향과 한계를 고려하는 동시에 현재 데이터 스토리지 솔루션이 학생과 교직원 데이터를 어느 정도 안전하게 유지할 수 있는지 의문을 제기해야 합니다. 

AI 교육 목적으로 민감한 정보를 제3자에게 노출해야 하는 경우 리더는 기술 스택에 추가 보호 조치를 추가해야 합니다.. 이는 조직이 데이터를 이동하거나 노출하지 않고 분석하고 LLM(대형 언어 모델)을 훈련할 수 있는 합성 데이터를 생성할 수 있도록 하는 개인정보 보호 강화 기술(PET)에 투자하는 것을 의미할 수 있습니다. 이를 통해 이론적으로 학교에서는 학생들의 실제 답변을 노출하지 않고도 시험의 예시 답변에 대해 LLM을 교육할 수 있습니다.

AI를 지원하도록 특별히 설계된 새로운 하드웨어를 추가할 준비를 하십시오.. AI 하드웨어는 현재 뜨거운 수요를 보이고 있습니다. AI에 대한 관심이 여전히 높은 반면 그래픽 처리 장치(GPU)와 신경 처리 장치(NPU)의 가격이 크게 하락하는 것을 보기는 어렵습니다. 다행스럽게도 대규모 학교라도 AI 하드웨어에 직접 투자할 필요가 없으며 대신 클라우드를 통해 데이터를 특수 하드웨어로 가져올 수 있습니다.

관리형 서비스 제공업체(MSP)는 클라우드에서 호스팅되고 AI 전문업체인 Nvidia 등이 구축한 하드웨어 가속기로 백업되는 AI용 기성 프레임워크를 통해 여기에서도 도움을 줄 수 있습니다. MSP는 학교가 추구하는 결과에 따라 맞춤형 모델 교육 또는 추론 요구 사항을 제공하고 예산을 검토하는 학교 리더의 골칫거리인 선행 CapEx를 매일 AI의 실제 사용과 연결된 OpEx로 대체할 수 있습니다. 일 기준.

모든 학교의 미래 경쟁력을 갖춘 AI 인프라는 미래 수요를 예상하고 있다는 점에 유의하세요.. 또한 AI 공간의 현재 혁신으로 인해 학교가 AI 기술을 통해 끊임없는 변화와 도약을 따라잡아야 하는 것처럼 보일 수 있지만 그럴 가능성은 낮습니다. 최신 모델은 이미 전력과 매개변수 크기 사이의 균형에 도달하고 있으며, 이는 학교와 같은 조직이 높은 운영 비용으로 인해 AI를 활용하지 못할 것이라는 초기 우려를 상쇄할 수 있습니다.

궁극적으로 학교에서 AI를 어떻게 채택할지에 대한 정확한 계획을 세웠거나 향후 채택을 위해 설정해야 할 사항에 대한 개요를 갖고 있다면 실제로 이미 잘 진행되고 있는 것입니다. 

초기 AI 인프라가 구축되면 확장성과 효율성이 향상되어 시스템을 보다 정기적으로 전환하는 데 드는 비용을 들이지 않고도 점진적인 개선을 이룰 수 있습니다.

spot_img

최신 인텔리전스

spot_img