2024년 가트너 10대 전략 기술 트렌드

 

1. AI 신뢰, 리스크 및 보안 관리 (AI TRiSM | AI Trust, Risk and Security Management)

AI TRiSM이란 AI의 신뢰, 리스크 및 보안 관리를 말하는 것으로, *AI 모델 거버넌스를 지원하는 정책입니다.

AI TRiSM은 다음 세 가지로 구분됩니다.

 

AI Trust

AI 시스템이 작업을 편견없이 올바르게 수행하는 것을 말합니다. 이것이 중요한 이유는 AI는 많은 데이터를 기반으로 모델링을 하기에 수집된 데이터에 따라 편견이나 차별이 적용될 수 있기 때문입니다.

 

AI Risk

AI의 위협 관리를 위해 정확하고 엄격한 거버넌스를 적용하는 것을 말합니다. AI 모델의 개발 프로세스를 관리하고 릴리스 프로세스의 모든 부분을 확인하여 무결성 및 규정 준수를 확인합니다. 이를 통해 AI 사용과 관련된 잠재적 위협을 평가 및 완화하게 됩니다. AI 학습에 사용되는 데이터의 오류, 잘못된 데이터의 수집 등의 문제로 인해 잘못된 결정을 내릴 수 있으므로 이것은 매우 중요한 활동입니다.

 

AI Security Management

무단 엑세스, 침입, 조작으로부터 AI 시스템을 보호하는 것을 말합니다. 

 

AI가 보현화되면서 예기치 못한 문제점이 나타나고 있는데, 최근 미시간주 디트로이트 경찰이 얼굴 인식 기술 사용 과정에서 문제가 발생하기도 했습니다. 무고한 흑인 여성을 용의자로 오인하는 등 허위 식별 사건으로 총 6건의 안면 인식 허위 고발이 접수되었습니다. 억울하게 누명을 쓴 6명의 피해자, 모두 흑인이었습니다. AI의 신뢰, 리스크 및 보안 관리의 필요성이 시급해지고 명확해지고 있습니다.

 

* AI 모델 거버넌스 - 인공 지능 모델에 대한 정책, 규정을 의미합니다. AI 모델 거버넌스의 목표는 인공 지능 시스템이 안전하고 효과적으로 운영되며, 윤리적 및 법적 요구사항을 준수하며, 비즈니스 목표를 달성하는데 도움을 주는 것입니다.

 

- AI TRiSM

 

2. AI 증강 개발 (AI Augmented Development)

AI 증강 개발은 엔지니어가 앱을 설계/코딩/테스트 할 때 AI 기술을 활용하는 것을 의미합니다. 가트너는 AI가 프로그래머의 자리를 대체하기보다는 도우미로서의 역할을 할 것으로 예상했습니다.

 

이러한 AI적용 개발 도구는 소프트웨어 엔지니어의 코드 작성 시간을 줄여 엔지니어들이 경쟁력 있는 비즈니스 애플리케이션의 설계 및 구성과 같이 보다 전략적인 활동에 더 많은 시간을 할애할 수 있도록 합니다.

 

가트너에서 제시한 대표적인 활용 포인트는 다음과 같습니다.

코드 생성 및 이해

AI를 활용하면 코드 작성을 가속화할 수 있고, 새로운 아이디어를 빠르게 구현할 수 있습니다.

 

코드 변환

AI는 코드는 다른 언어로 변역하는 능력이 있어 배포하는데 도움을 받을 수 있습니다. 다만, 코드에 오류를 주입하지 않도록 주의해야 합니다.

 

소프트웨어 테스팅

AI는 테스트 계획부터 결함 분석까지 다양한 영역에서 이점을 제공합니다. 테스트 효과를 높이고 더욱 빠른 배포를 가능하게 합니다.

 

3. 지능형 애플리케이션 (Intelligent Application)

지능형 애플리케이션은 AI 기술을 활용하여 사용자의 요구와 환경에 유연하게 적응하는 애플리케이션을 의미합니다.

 

지능형 애플리케이션의 활용 방안은 다음과 같습니다.

인력 관리

경영진이 인력관리를 효율적으로 운영할 수 있도록 도움을 줍니다. Beamery 회사에서 제공하는 서비스인 TalentGPT는 새로운 직무 설명을 생성해서 신규 인력에서 OJT를 제공하기도 하고 고성과자를 구분해 내서 역량과 관련성을 높여주기도 합니다. 나아가 회사에서 요구하는 관련 직무를 가진 인재가 어느 지역에 있는지에 대한 정보를 제공하기도 해서 채용에 도움을 주기도 합니다.

 

자동화

날씨, 위성 및 기타 데이터를 모니터링하는 재산 보험 앱은 자연재해(홍수, 화재 등)가 발생했을 때 자동으로 보험사에 보험금을 청구할 수 있습니다.

 

증강

수요와 공급의 변화를 실시간으로 파악, 분석하여 가격을 동적으로 조절할 수 있습니다. 예를 들어, 서비스의 수요가 높아지면 가격을 상승시키거나, 반대로 수요가 줄었을 때 가격을 하락시킬 수 있습니다. 또한 사용자에게 적절한 시기와 조건에서 크레딧(할인, 포인트 등)을 부여하여 사용자의 거래를 유도할 수 있습니다.

 

4. 증강 연결된 인력 (Augmented Connected Workforce)

'증강-연결된 인력'이란, 증강 기술을 사용하여 사용자들의 능력을 강화하고 확장하는 것을 통칭하며, 여기에는 가상 현실, 컴퓨터 비전, 보조 장비 등 다양한 기술이 포함됩니다. 이는 근로자의 가치를 최적화하기 위한 전략으로, 역량을 가속화하고자 하는 필요성에 의해 대두된 기술입니다.

 

예를 들어, 작업자는 증강 현실로 연결된 작업 환경에서 위험한 작업을 안전하게 수행할 수도 있으며 더 많은 일을 단기간 내에 정확하게 수행할 수도 있습니다. 이처럼 실제와 유사한 환경에서 작업을 할 수 있다는 점과 함께 기존의 작업자들이 별도의 훈련이나 교육 없이 증강 현실을 활용할 수 있다는 것도 장점으로 꼽히고 있습니다.

 

5. 지속적인 위험 노출 관리 (CTEM, Continuous Threat Exposure Management)

CTEM은 기업의 디지털 및 물리적 자산의 접근성, 노출 및 악용 가능성을 지속적으로 평가하고 관리하는 방식을 말합니다.

 

이를 위해 가트너는 5단계의 사이클을 제안하고 있습니다.

1. 범위 지정(Scoping) - 조직 내에 공격 표면(공격을 받을 수 있는 영역)을 정의합니다.

2. 탐색(Discovery) - 비즈니스 영역, 숨겨진 자산, 취약점, 잘못된 구성 등을 지속적으로 탐색합니다.

3. 우선순위(Prioritization) - 모든 보안 문제를 해결하려고 하기 보다는 위험 수준과 긴급성, 공격 범위 등에 따라 우선순위를 정하여 대응하는 것이 중요합니다.

4. 유효성 검증(Validation) - 현재 세워진 보안 계획이 비즈니스를 보호할 수 있을 만큼 효과가 있는지 검증합니다.

5. 인력 동원(Mobilization) - 자동화된 시스템에 의존하지 않고, 보안 팀과 비즈니스 이해관계자엥게 CTEM 계획을 명확하게 전달해야 합니다.

 

최근 산업 전반에 디지털 변환이 대두되었고, 동시에 클라우드 기반 서비스가 증가하면서 기업과 개인 데이터는 이전보다 훨씬 더 넓은 영역에 분산되어 있습니다. 이에 따라 사이버 위협에 대한 안정성이 지속해서 확대되고 있는 것도 주목해야할 부분입니다.

 

가트너는 위와 같은 CTEM 프로세스가 잘 구축된 조직은 보안 사고를 약 3분의 2로 줄일 수 있을 것이라고 예측했습니다.

 

6. 기계 고객 (Machine Customers)

기계 고객은 자율적으로 협상하고 대가를 지불해 상품과 서비스를 구매할 수 있는 비인간 경제 행위자를 말합니다. 인간 고객과는 다르게 감정이 없고 알고리즘과 기술을 기반으로 동작합니다.

 

예를 들어 프린터는 스스로 토너를 주문할 수 있고, 자동차는 새 부품을 조달할 수 있는 것입니다. 이에 가트너는 최근 “기계 고객은 오늘날의 인간 고객과 다르게 행동한다. 그들은 데이터와 논리를 기반으로 구매하고 더 합리적”이라고 구분지었습니다.

 

가트너는 가까운 미래에는 사람보다 커스터봇(Custobot)이라고도 불리는 기계 고객이 거래를 주도하는 세상이 올 것으로 예측했습니다. 이로 인해 기업들은 커스토봇을 대상으로 제품을 판매하거나 프로모션을 제안하는 등의 마케팅 활동을 하게 됩니다.

 

7. 지속 가능한 기술 (Sustainable Technology)

지속 가능한 기술이란, 환경과 생태계에 대한 위험을 줄이면서도 혁신을 제공하는 제품을 만드는 기술을 말합니다.

 

이는 기술의 발전이 향후 환경 문제를 해결하는 데에도 도움을 주어야 하는 것을 말하며, 기업의 가치 평가에도 점점 중요한 요소로 부각되고 있습니다.

 

AI, 암호화폐, 사물인터넷, 클라우드 컴퓨팅과 같은 기술의 사용이 증가함에 따라, 그에 따른 에너지 소비와 환경에 미치는 영향에 대한 우려가 커지고 있습니다. 이러한 우려에 기업들은 지속 가능한 기술을 적용하면서 사회적, 환경적 책임을 다하는 동시에, 비즈니스 가치도 창출할 수 있는 기술 전략을 적극적으로 모색해야 합니다.

 

8. 플랫폼 엔지니어링 (Platform Engineering)

플랫폼 엔지니어링은 소프트웨어를 제공하고 수명주기를 관리하기 위해 셀프서비스 기능을 설계하고 구축하는 분야로 내부 사용자 (일반적으로 소프트웨어 개발자 및 엔지니어)에게 공유 인프라 플랫폼을 제공합니다.

 

플랫폼 엔지니어링을 활용하게 되면 개별적인 서비스와 독립되어 있던 개발자들이 하나의 공통된 플랫폼을 활용함으로써 불필요한 과정을 없애줄 수 있습니다. 플랫폼 엔지니어링의 가장 중요한 목표는 개발자 생산성을 높이고 최종 사용자의 사용자 경험을 최적화하는 것입니다.

 

9. 산업 클라우드 플랫폼 (ICP, Industry Cloud Platform)

버티컬(수직) 클라우드 플랫폼이라고도 불리는 산업 클라우드 플랫폼은 서비스형 소프트웨어(SaaS), 서비스형 플랫폼(PaaS) 및 서비스형 인프라(IaaS)를 단일 제품으로 통합하여 다양한 산업에 적합한 솔루션을 제공합니다. 이를 통해 기업들은 비즈니스의 변화, 데이터의 변화, 규제 변화 등에 빠르게 대응할 수 있게 됩니다.

 

10. 대중화된 생성형 AI

생성형 AI는 다양한 작업을 자동화할 수 있는 잠재력이 높아 생산성을 향상시키고, 비용을 절감할 수 있도록 돕습니다. 또한 높은 기술 지식이 없어도 활용할 수 있기 때문에 다양한 비즈니스 분야에서 많은 사람들이 정보에 접근할 수 있는 장접이 있습니다.

 

생성형 AI의 발전은 업무 효율성과 정보 접근성을 크게 향상시키는 중요한 역할을 하며, 향후 몇 년간 놓쳐서는 안될 기술 패러다임으로 자리잡을 것 입니다.

 

🔗 참고

2024년 성장을 원한다면 주목해야 할 가트너 2024 전략 기술 트렌드 10가지

가트너가 2024년 주목하라는 10대 전략 기술

2024 가트너 10대 전략 기술 트랜드 톺아보기