计算机能直接识别和执行的语言是机器语言。机器语言是用二进制代码表示的计算机能直接识别和执行的一种机器指令的集合。这种指令集，称机器码（machinecode），是电脑的CPU可直接解读的数据。
机器语言是计算机的设计者通过计算机的硬件结构赋予计算机的操作功能。机器语言具有灵活、直接执行和速度快等特点。不同型号的计算机其机器语言是不相通的，按着一种计算机的机器指令编制的程序，不能在另一种计算机上执行。
使用机器语言编写程序，编程人员要首先熟记所用计算机的全部指令代码和代码的涵义。进行编程序时，程序员需要自己处理每条指令和每一数据的存储分配和输入输出，还得记住编程过程中每步所使用的工作单元处在何种状态。
这是一件十分繁琐的工作，编写程序花费的时间往往是实际运行时间的几十倍或几百倍。而且，编出的程序全是些0和1的指令代码，直观性差，还容易出错。现在,除了计算机生产厂家的专业人员外，绝大多数程序员已经不再去学习机器语言了。
一条指令就是机器语言的一个语句，它是一组有意义的二进制代码。各计算机公司设计生产的计算机，其指令的数量与功能、指令格式、寻址方式、数据格式是差别的。从计算机的发展过程可以看到，由于构成计算机的基本硬件发展迅速，计算机的更新换代很快，这就存在软件如何跟上硬件的问题。
一台新机器推出交付使用时，只有少量系统软件（如操作系统等）可提交用户，大量软件是不断充实的，尤其是应用程序，有相当一部分是用户在使用机器时不断产生的。为了缓解新机器的推出致使原有应用程序不能继续使用的问题，各个计算机公司生产的同一系列的计算机时，尽管其硬件实现方法可以不同，但指令系统、数据格式、I/O系统等保持相同，因而软件完全兼容。