def check(ip, port):
    vnc = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
    vnc.connect((ip, int(port)))
    vnc_ver = vnc.recv(12) # Тут мы получаем версию vnc
    vnc.send(vnc_ver) # Тут мы шлем ее обратно
    vncres = vnc.recv(1024) # Тут получаем методы авторизации, которые поддерживает сервер
    print(vncres)
    vnc.send(b'\x02') # Шлем выбранный нами метод
    vncres = vnc.recv(1024) # тут я получаю такой вот шлак (b'\x0cB*\xe8\xf0c\x11ad\xb7\xe9\xf5\xafp\xd8\xd7'), каждый раз он разный. Вот только снифер мне на этом моменте показывает, как оказалось, это не MD5, а слитно-написанный hex
    print(vncres)
    vnc.send(b'1234') #А тут я должен отправить пароль.
    print(vnc.recv(1024))
check("181.220.204.10", "5900")

  
>>> import hashlib
>>> 
>>> hashlib.md5(b'abc').hexdigest()
'900150983cd24fb0d6963f7d28e17f72'
>>> 
>>> hashlib.md5(b'abc').digest()
b'\x90\x01P\x98<\xd2O\xb0\xd6\x96?}(\xe1\x7fr'
>>>