API = Application Program Interface
Dicho de otro modo, es la manera que tienes para interactuar con una aplicación o servicio.
En muchos casos son librerías
Win32 API es una API para crear aplicaciones para el sistema operativo Windows, de forma que puedas acceder a servicios que proporciona el SO
DirectX es una API (enorme) para creación de juegos
OpenGL es una API para generar gráficos accediendo a los recursos de una GPU
OpenAL es una API para generar sonido
Para usar estas apis necesitas referencias las librerías (por ejemplo, dlls en windows), vincular tu proyecto a ellas, y así puedes acceder a las nuevas funciones / clases que proporciona el API.
Las páginas web también exponen servicios denominados API, pero no son librerías, sino URL a las que les pasas parámetros en un formato y te devuelven un resultado
Por ejemplo, twitter, flickr, google, remember the milk, toodledo, todas tienen APIs que permiten que interactues con los servicios de las webs. De esta forma puedes hacer, por ejemplo, una aplicación de escritorio que muestre tu timeline de twitter, gestione tus fotografías, tu lista de tareas...
Quien dice una aplicacion de escritorio dice una aplicación de móvil, otra aplicación web, etc.