Kita boleh lihat penggunaan teknologi AI semakin agresif digunakan oleh organisasi di seluruh dunia bagi mengautomasikan proses dan tingkatkan kecekapan operasi. Namun untuk memastikan sistem AI ini berfungsi dengan lancar dan selamat, ia memerlukan infrastruktur yang mantap, selamat dan boleh dipercayai.
Bagi memenuhi keperluan ini, syarikat keselamatan teknologi dari Amerika Syarikat, A10 Networks telah memperkenalkan teknologi tembok api “Firewall” baharu dan ciri ramalan prestasi. Kedua-dua inovasi ini akan didemonstrasikan oleh syarikat tersebut di persidangan Interop Tokyo yang berlangsung dari 11 hingga 13 Jun 2025.
Berbeza dengan Firewall biasa, A10 membangunkan teknologi baharu yang dipasang terus di hadapan API atau URL, iaitu bahagian paling terdedah pada model bahasa besar (LLM) tersuai ataupun model komersial seperti OpenAI ataupun Anthropic. Firewall ini direka untuk beroperasi di hujung rangkaian (edge computing) dan menyokong penggunaan GPU, menjadikannya sesuai digunakan pada sistem AI berprestasi tinggi.
Dengan Firewall ini, syarikat AI boleh:
- Menguji model inferens AI mereka untuk kesan kerentanan yang diketahui
- Mengesan serangan seperti suntikan arahan (prompt injection) atau kebocoran maklumat
- Menguatkuasakan polisi keselamatan untuk menangani ancaman tersebut
Pendek kata, ia bertindak sebagai perisai yang duduk di barisan depan sistem AI, memantau setiap pertukaran data untuk mengelakkan ancaman siber.
Selain keselamatan, A10 juga mengetengahkan penyelesaian ciri ramalan prestasi untuk memastikan AI berjalan dengan lancar. Perkhidmatan mereka boleh mengambil alih tugasan berat seperti:
- Nyahsulit trafik TLS/SSL
- Pengurusan cache
- Pengoptimuman trafik dan saranan tindak
- Pemantauan awal masalah rangkaian
Ini membolehkan organisasi mengenal pasti tanda-tanda awal kesesakan, kapasiti tidak mencukupi atau potensi gangguan sebelum ia menjejaskan pengguna. Ia juga membantu mengelakkan kegendalaan tak berjadual dan merancang pengoptimuman prestasi rangkaian. Menurut A10, ciri ramalan prestasi ini dijalankan pada perkakasan A10 yang dilengkapi dengan GPU, membolehkan ananalisis data berskala besar dilakukan dengan lebih pantas dan cepat untuk mengesan sebarang permasalahan lebih awal.
Gabungan teknologi keselamatan dan pemantauan prestasi ini membolehkan organisasi menguruskan infrastruktur AI dengan lebih mudah. Ia bukan sahaja mengurangkan risiko, malah memastikan pengalaman pengguna berada pada tahap optimum.
Dhrupad Trivedi, Presiden dan CEO, A10 Networks berkata,”Perusahaan sedang memasang dan melatih model inferens AI dan LLM di dalam premis dan di awan pada kadar yang pantas. Teknologi baharu perlu dibangun untuk menangani tiga cabaran utama dalam persekitaran baharu ini: sela masa, keselamatan, dan kerumitan pengoperasian. Dengan pengalaman lebih 20 tahun dalam membangun dan melindungi aplikasi, kami memperluas keupayaan untuk memenuhi keperluan untuk menjadikan infrastruktur AI dan LLM berprestasi tinggi dan selamat.”
Untuk maklumat lanjut, anda boleh layari laman web A10 Networks.
