AI 시대에 디자인은 단순한 기술적 도구를 넘어 신뢰, 투명성, 접근성, 환경 지속가능성을 구현하는 핵심 요소가 되어야 합니다. SAP 최고 디자인 책임자 아린 보믹이 말하는 인간 중심의 AI 디자인에 관한 통찰을 확인하세요.
글쓴이: SAP 최고 디자인 책임자 아린 보믹(Arin Bhowmick), 번역: 클로드(Claude)
지난주, 저는 한 주니어 디자이너가 제품에 AI 기능을 추가한 이야기를 들었습니다. “이것 좀 보세요, 얼마나 똑똑한지!” 그녀는 알고리즘이 논리에 대한 아무런 설명 없이 추천을 하는 것을 보여주며 말했습니다. 이것은 끔찍한 디자인으로 포장된 훌륭한 기술이었고, 이는 우리가 다가올 미래에 준비되어 있지 않을 수도 있다는 것을 깨닫게 했습니다.
20년간 디자인 팀을 이끌면서, 저는 모든 것을 바꿀 것이라고 약속하는 기술들을 보아왔습니다. 솔직히 일부는 그렇게 했지만, 대부분은 그렇지 않았습니다. 오늘날 AI와 함께 보고 있는 것은 다르게 느껴지는데, 우리가 거의(아직) 이해하지 못하는 알고리즘에 사람들이 정보를 경험하는 방식을 넘겨주려고 하기 때문입니다.
어쩐지 우리는 이것을 순수한 기술적 도전처럼 다루고 있지만, 실제로는 인간 경험에 관한 것입니다.
디자이너들은 이 대화에서 할 말이 많으며, 우리는 그것을 말하기 시작해야 합니다. 모두가 챗봇과 자동화에 집중하고 있습니다. 그들은 더 큰 도전을 놓치고 있습니다.
AI가 우선시 되는 미래를 위한 디자인 | 특집 기사
AI는 디자이너를 대체하는 것이 아니라 디자이너의 역할을 재정의하고 있으며, 성공하는 디자이너는 AI를 도구로 활용하면서도 비판적 사고와 인문학적 소양을 바탕으로 AI의 방향을 이끌어가는 사람입니다. SAP의 AI 경험 담당 부사장의 통찰을 확인하세요.
AI가 마음대로 활동하도록 내버려 두는 것을 멈춥시다
많은 디자인 팀들이 여전히 AI를 반짝이는 새로운 구성 요소처럼 다루고 있습니다. 그들은 윤리, 거버넌스, 또는 무슨 일이 일어나고 있는지 이해하려는 인간의 기본적인 욕구에 대해 생각하지 않고 있습니다.
저는 훌륭한 디자인은 보이지 않는 것을 보이게 만든다고 말하고 싶습니다. GitHub Copilot이 코드를 제안할 때, 그것은 행동하기 전에 무엇을 하고 있는지 보여줍니다. 마찬가지로, Notion의 AI가 글쓰기를 도울 때, 생성된 콘텐츠를 명확하게 표시합니다. 이것들이 신뢰 패턴입니다.
그리고 신뢰는 더 이상 선택사항이 아닙니다. 2024년 3월에 승인된 EU AI 법은 AI에 대한 글로벌 표준을 설정하고 있으며, 기업들이 AI 시스템에 투명성을 통합하도록 요구하고 있습니다.
저는 사용자 신뢰 연구를 집요하게 추적해 왔으며, 더 많은 기사와 보고서를 읽을수록 더 명확해집니다. 사람들은 자신이 이해하는 AI를 사용하고, 블랙박스처럼 느껴지는 AI는 버릴 것입니다.
여기서 큰 차별화 요소는 디자인입니다. 행동하기 전에 의도를 보여주고, 명확한 제어를 제공하며, 사용자가 추측하도록 내버려 두지 않는 방식으로 애플리케이션을 디자인한다면, 사람들이 실제로 사용하고 싶어 할 규정 준수 제품을 만들고 있는 것입니다.
추적할 수 없다면, 신뢰할 수 없습니다
며칠 전 좋은 비즈니스 친구가 소셜 미디어에서 저와 동영상을 공유했는데, 완전히 진짜처럼 보였지만 약간 이상하게 느껴졌습니다. 저는 왜 그런지 정확히 알 수 없었습니다. 나중에, 그것이 진짜 뉴스 영상으로 수천 번 공유된 AI 생성 콘텐츠였다는 것을 발견했습니다.
우리가 살고 있는 미친 시대죠, 그렇지 않나요?
사라지는 기술: 최고의 UX는 보이지 않는다 | 특집 기사
관찰하고 추론, 행동하는 AI 덕분에 ‘사용자 인터페이스(UI)’는 더 이상 눈에 띄지 않게 되어 마치 존재하지 않는 것처럼 느껴지게 됩니다. 디자이너는 이제 신뢰를 형성하고 더욱 인간적인 경험을 제공하는 데 집중해야 합니다.
우리는 콘텐츠 출처가 콘텐츠 자체만큼 중요한 시대로 접어들고 있습니다. C2PA 표준은 채택을 가속화하고 있으며, OpenAI, Microsoft, Sony를 포함한 파트너들이 콘텐츠 자격 증명을 구현하고 있습니다. 이것은 본질적으로 디지털 콘텐츠를 위한 “영양 라벨”로, 누가 무언가를 만들었는지, 언제, 그리고 어떻게 수정되었는지를 보여줍니다.
디자인 과제는 사용자를 압도하지 않으면서 출처를 가시적으로 만드는 것입니다. 우리가 영양 라벨 비유로 언급했듯이, 이 정보는 접근 가능하지만 방해가 되지 않아야 하고, 상세하지만 스캔 가능해야 합니다.
저는 콘텐츠 계보, 편집 이력, 검증 상태를 보여주기 위해 확장되는 간단한 배지를 실험해 왔습니다. 아이디어는 한눈에 필수적인 신뢰 신호를 보여주고 전체 세부 정보는 클릭 한 번으로 유지하는 것입니다.
접근성은 그야말로 좋은 디자인입니다
여기 걱정스러운 현실이 있습니다. WebAIM의 최신 연구에 따르면 전 세계 상위 100만 개 웹사이트의 거의 95%가 기본적인 접근성 표준을 충족하지 못합니다. 우리는 수백만 명의 사람들이 웹을 사용하는 것을 막는 근본적인 장벽에 대해 이야기하고 있습니다.
이러한 표준은 웹 콘텐츠 접근성 지침(WCAG)에 명시되어 있으며, 이는 시각장애인, 청각장애인, 운동 장애가 있는 사람들 또는 인지적 차이가 있는 사람들을 포함한 사람들이 디지털 경험을 사용할 수 있도록 만드는 규칙서입니다. 최신 버전인 WCAG 2.2는 요구 사항을 강화했으며 전 세계적으로 규제가 강화되고 있습니다.
애플리케이션을 디자인할 때 접근성 우선 접근 방식을 취하는 것이 매우 중요해지고 있습니다. 특히 2025년 장애 평등 지수에 따르면 장애가 있는 사람들이 장애가 없는 동료들보다 AI 및 자동화 도구를 더 빠르게 채택하고 있다는 점을 고려하면 더욱 그렇습니다. 접근 가능한 디지털 경험을 디자인할 수 없다면, 그것을 가장 많이 사용하는 사람들을 위해 신뢰할 수 있는 AI를 디자인할 수 있을 것으로 어떻게 기대할 수 있을까요?
사실은, 접근성을 염두에 두고 디자인하면 모든 사람의 경험이 향상된다는 것입니다. 음성 제어는 이동 문제가 있는 사람들과 바쁜 부모들에게 도움이 됩니다. 높은 대비는 시력 문제와 밝은 햇빛에 효과적입니다. 이것은 더 나은, 포용적인 디자인의 결과입니다.
화면에서 성공으로: 성과 중심 인터페이스의 부상 | 특집 기사
기업용 시스템은 이제 작업 중심이 아닌 성과 중심 인터페이스로 전환되고 있으며, 사용자가 프로세스가 아닌 목표를 중심으로 일할 수 있도록 설계되어야 합니다. SAP의 사용자 인사이트 및 리서치 부사장의 통찰과 선견지명을 확인하세요.
모든 새로운 기능에는 환경적 대가가 있습니다
AI는 전력을 많이 소비합니다. 단일 ChatGPT 쿼리는 표준 Google 검색보다 대략 10배 더 많은 전기를 사용합니다(0.3 Wh 대 2.9-3 Wh).
수백만 건의 쿼리로 확장되면 환경 영향이 상당합니다. 미국에서 데이터 센터는 이미 총 전력의 4.4%를 소비하고 있으며, 화석 연료에 대한 의존으로 인해 탄소 집약도가 전국 평균보다 48% 높습니다.
상상하시겠지만, 이 발자국은 계속 확대될 것입니다.
그러나 디자이너들은 사용자에게 의식적인 선택을 제공함으로써 이를 바꿀 수 있습니다. 그들은 가장 빠른 AI 응답을 원하는가, 아니면 가장 에너지 효율적인 것을 원하는가? 좋은 디자인은 숨겨진 탄소 비용을 가시화하고 사람들이 각 기능이 지구에 어떤 대가를 치르는지 이해하도록 도울 수 있습니다.
AI 기능에 대한 A/B 테스트를 실행할 때, 조직들이 참여도와 전환율뿐만 아니라 상호작용당 탄소 비용을 추적하기 시작할 것이라고 해도 저는 놀라지 않을 것입니다.
결론
디자인은 항상 우아한 솔루션으로 문제를 해결해 왔지만, 오늘날 그것은 또한 인간과 지금까지 만들어진 가장 강력한 기술 사이의 관계를 형성합니다. 사용자가 자신이 보는 것을 신뢰하고, 자신을 대신하여 행동하는 것을 제어하며, 우리 모두가 공유하는 지구를 보호할 수 있도록 보장하는 것은 디자이너의 책임입니다.
AI와 디자인은 얽혀 있습니다. 하나는 다른 하나 없이 인류에게 봉사할 수 없습니다. 만약 아직 아무도 이에 대해 이야기하지 않는다면, 지금이 아마도 대화를 시작할 때입니다.
- 원문: The Untold Future Of Design: What No One’s Talking About, SAP BrandVoice, Forbes.com
