Amazon ย้ายปัญญาประดิษฐ์ Alexa ไปรันบนชิป AWS Inferentia ระบุหน่วงลดลง 25% ถูกลง 30%

Amazon ประกาศว่าปัญญาประดิษฐ์ Alexa ย้ายโหลดงานปัญญาประดิษฐ์ที่เดิมรันอยู่บนชิปกราฟิกไปรันบนชิป AWS Interentia ที่เปิดตัวมาตั้งแต่ปี 2018 และให้บริการเป็นเครื่อง EC2 Inf1 ในปี 2019 เกือบทั้งหมดแล้ว

Alexa ฝังอยู่ในลำโพง Echo และแท็บเล็ต Kindle Fire ทำให้ผู้ใช้สามารถสั่งงานอุปกรณ์ในบ้านและติดต่อกับบริการของ Amazon ได้โดยสั่งด้วยเสียง โดยตอนนี้มีอุปกรณ์รองรับ Alexa กว่าร้อยล้านชิ้นแล้ว โดยปัญญาประดิษฐ์ที่ Alexa ใช้มีสามส่วนหลักคือการแปลงเสียงเป็นข้อความ (automatic speech recognition – ASR) และทำความเข้าใจคำสั่งของผู้ใช้ (natural language understanding – NLU) จากนั้น Alexa จะส่งคำตอบเป็นข้อความและใช้ปัญญาประดิษฐ์สร้างเสียงพูด (text-to-speech – TTS)

ก่อนหน้านี้ Alexa รันบนเครื่อง EC2 G4 ที่ใช้ชิป Intel Cascade Lake และการ์ดกราฟิก NVIDIA T4 การย้ายมาใช้ EC2 Inf1 ทำให้ Alexa มี latency ลดลงทั้งระบบ 25% ขณะที่ราคาต่อการประมวลผลปัญญาประดิษฐ์ก็ลดลง 30%

ที่มา – AWS

No Description

Topics: 
Amazon
Artificial Intelligence
Alexa