Nunca he probado a conectar el mío a un sistema linux... pero sospecho cual es el problema:
El Dualshock 3, como el 2, es sensible a la presión de sus botones (incluyendo la cruceta). Cada boton tiene un eje que registra la fuerza de la pulsación.
Si alguno de los botones está algo desgastado o mal calibrado, en teoría podrían causar pulsaciones fantasma. Retroarch puede venir configurado para aplicar algo de deadzone a esos ejes, pero el kodi desde luego que no está pensado para mandos tan raros como DS3.
No tengo mucha experiencia con Linux, pero supongo que tiene aplicaciones o algo para calibrar los mandos, ¿no?