Existe algún algoritmo o lo que sea para las direcciones de youtube?
Nope! Es aleatorio, y es necesario que así lo sea. Si dependiera del nombre o algún dato que lo identifique habría varios problemas: no podría haber dos vídeos con el mismo nombre/datos que se usen y no podrías tener vídeos semiprivados.
Si hubiera un contador de vídeos y fuera actualizándose cada vez que se sube un vídeo nuevo habría problemas para paralelizar el sistema (puedo ser más específico con esto si me lo pides) y habría mil problemas de seguridad (escribí justo sobre eso pero en el caso de los acortadores de enlaces aquí: https://codual.github.io/2016/05/15/acortadores).
Luego, lo más sencillo es generar uniformemente una URL aleatoria y comprobar si está libre. Si no lo está pues se repite el proceso las veces que haga falta. Aquí Tom Scott habla un poco más del tema: https://www.youtube.com/watch?v=gocwRvLhDf8