OpenAI Releases "GPT-4o Mini", Light, Smart, Low Price AI Model

OpenAI Releases "GPT-4o Mini", Light, Smart, Low Price AI Model

HOLIDAY NEWS - OpenAI released its newest AI language model or large language model (LLM), namely GPT-4o Mini, Thursday (18/7/2024). 

The GPT-4o Mini comes as a lighter AI model compared to the GPT-4o released last May. This means that the GPT-4o Mini model is here to perform simple tasks. 

Even so, this AI model is said to be more capable than GPT-3.5 and more cost effective. 

The GPT-4o Mini reportedly scored 82 percent on the Measurement Massive Multitask Language Understanding (MMLU), a benchmark exam consisting of approximately 16,000 multiple-choice questions across 57 academic subjects. 

Meanwhile, GPT-3.5 gets a score of 70 percent on this benchmark. On the other hand, OpenAI's most advanced AI model, GPT-4o, reportedly got a score of 88.7 percent. GPT-4o mini supports text and vision in API. This model has a context window of 128K tokens, supports up to 16K output tokens per request, and has a knowledge base through October 2023. GPT-4o Mini will gain support for text, image, video, and audio (multimodal) input and output in the future. These improvements will allow users to interact with the model in more varied ways, making it a more complete tool for a variety of uses. 

Cheaper price

On its official website, OpenAI describes the GPT-4o Mini as its most cost-effective AI model. OpenAI details that GPT-4o Mini costs 15 cents per million input tokens and 60 cents per million output tokens. 

According to OpenAI, the price of the GPT-4o Mini is much more affordable than the previous Frontier model and more than 60 percent cheaper than the GPT-3.5 Turbo. OpenAI's goal with the GPT-4o Mini is to provide something lightweight and cheap for developers to create applications and tools that they can't afford with larger, more expensive models like the GPT-4. 

“I think the GPT-4o Mini really fulfills OpenAI's mission to make AI more accessible to more people. "If we want AI to benefit every corner of the world, every industry, every application, we have to make AI much more affordable," said Olivier Godement, Head of Products and APIs at OpenAI. Combining power, skill, and cost-effectiveness, GPT-4o mini should be a valuable tool for many users, especially developers looking to build AI applications on the cheap. OpenAI is working with several companies to test the GPT-4o Mini. For example, financial technology startup Ramp used GPT-4o Mini to create a tool that extracts spending data on shopping receipts. 

So, users just need to upload an image of the receipt. Then, the Ramp tool will detail the user's spending. Superhuman, an email client, also tested GPT-4o Mini and used it to create an autosuggest feature for providing email responses. 

Replace GPT-3.5 in ChatGPT

According to a report by The Verge, as compiled by KompasTekno, Friday (19/7/2024), ChatGPT users on the Free, Plus and Team packages can use GPT-4o Mini starting today, replacing GPT-3.5. Enterprise users will get access next week. This means that GPT-3.5 is no longer an option for ChatGPT users. However, the GPT-3.5 model remains available to developers via the API, if they choose not to switch to GPT-4o Mini. Godement says GPT-3.5 will be deprecated from the API someday, but isn't sure when. 

OpenAI Rilis "GPT-4o Mini", Model AI Ringan, Pintar, dengan Harga Murah

HOLIDAY NEWS - OpenAI merilis model bahasa AI atau large language model (LLM) terbarunya, yakni GPT-4o Mini, Kamis (18/7/2024).

GPT-4o Mini ini hadir sebagai model AI yang lebih ringan dibandingkan GPT-4o yang dirilis pada Mei lalu. Artinya, model GPT-4o Mini hadir untuk mengerjakan tugas-tugas sederhana.

Meski begitu, model AI ini dikatakan lebih mumpuni dibandingkan GPT-3.5 dan lebih hemat biaya.

GPT-4o Mini dilaporkan memiliki skor 82 persen pada Measurement Massive Multitask Language Understanding (MMLU), sebuah ujian benchmark yang terdiri dari sekitar 16.000 pertanyaan pilihan ganda di 57 mata pelajaran akademik.

Sementara GPT-3.5 mendapatkan skor 70 persen pada benchmark ini. Di sisi lain, model AI tercanggih OpenAI, GPT-4o dilaporkan mendapatkan skor 88,7 persen.

GPT-4o mini mendukung teks dan visi di API. Model ini memiliki jendela konteks 128 ribu token, mendukung hingga 16 ribu token keluaran per permintaan, dan memiliki basis pengetahuan hingga Oktober 2023.

GPT-4o Mini akan mendapat dukungan untuk input dan output teks, gambar, video, dan audio (multimodal) di masa mendatang. Peningkatan ini akan memungkinkan pengguna untuk berinteraksi dengan model dengan cara yang lebih bervariasi, menjadikannya alat yang lebih lengkap untuk berbagai kegunaan.

Harga lebih murah

Dalam situs resminya, OpenAI mendeskripsikan GPT-4o Mini sebagai model AI-nya yang paling hemat biaya. OpenAI merinci, GPT-4o Mini membutuhkan biaya sebesar 15 sen per satu juta token masukan (input) dan 60 sen per satu juta token keluaran (output).

Menurut OpenAI, harga GPT-4o Mini itu jauh lebih terjangkau dibandingkan model frontier sebelumnya dan lebih dari 60 persen lebih murah dibandingkan GPT-3.5 Turbo.

Tujuan OpenAI menghadirkan GPT-4o Mini adalah menyediakan sesuatu yang ringan dan murah bagi pengembang untuk membuat aplikasi dan alat yang tidak mampu mereka buat dengan model yang lebih besar dan mahal seperti GPT-4.

“Saya pikir GPT-4o Mini benar-benar memenuhi misi OpenAI untuk menjadikan AI lebih mudah diakses oleh banyak orang. Jika kita ingin AI memberikan manfaat bagi seluruh penjuru dunia, setiap industri, setiap aplikasi, kita harus membuat AI jauh lebih terjangkau,” kata Olivier Godement, Kepala Produk dan API di OpenAI.

Dengan memadukan kekuatan, keterampilan, dan efektivitas biaya, GPT-4o mini seharusnya menjadi alat yang berharga bagi banyak pengguna, terutama pengembang yang ingin membangun aplikasi AI dengan biaya murah.

OpenAI bekerja sama dengan beberapa perusahaan untuk menguji GPT-4o Mini. Misalnya, startup teknologi keuangan Ramp menggunakan GPT-4o Mini untuk membuat alat yang mengekstrak data pengeluaran pada struk/bon belanja.

Jadi, pengguna tinggal mengunggah gambar struk. Kemudian, alat Ramp akan merinci pengeluaran pengguna.

Superhuman, sebuah klien email, juga menguji GPT-4o Mini dan menggunakannya untuk membuat fitur saran otomatis untuk memberikan tanggapan email.

Gantikan GPT-3.5 di ChatGPT

Menurut laporan The Verge, sebagaimana dihimpun KompasTekno, Jumat (19/7/2024), pengguna ChatGPT pada paket Gratis, Plus, dan Tim dapat menggunakan GPT-4o Mini mulai hari ini, menggantikan GPT-3.5. Pengguna Perusahaan akan mendapatkan aksesnya minggu depan.

Artinya, GPT-3.5 tidak lagi menjadi opsi bagi pengguna ChatGPT. Namun, model GPT-3.5 tetap tersedia bagi pengembang melalui API, jika mereka memilih untuk tidak beralih ke GPT-4o Mini.

Godement mengatakan GPT-3.5 akan dihentikan dari API suatu saat nanti, tapi tidak yakin kapan waktunya.