Upload
miguel-angel-nieto-salazar
View
18.146
Download
1
Embed Size (px)
DESCRIPTION
Administración de bases de datos MySQL. Replicación, alta disponibilidad, backup, engines, optimización, particionado, etc.
Citation preview
Administración MySQL
Miguel Ángel Nieto <[email protected]>Irontec – Internet y Sistemas sobre GNU/Linux
Irontec – Administración de MySQL
3
Instalación
● La instalación puede realizarse de las siguientes formas:– Código fuente– Binarios– Sistema de paquetes de tu distribución
● Cada uno tiene sus ventajas e inconvenientes– Código fuente es laborioso, pero te permite definir
mejor las carácterísticas de tu servidor, activando y desactivando a tu gusto
– Los binarios vienen compilados y son más fáciles de actualizar. Si están compilados con icc se puede casi doblar el rendimiento
– Sistema de paquetes, facil de instalar y de actualizar
Irontec – Administración de MySQL
4
Instalación
http://downloads.mysql.com/archives.php● Para compilar en debian es necesario como mínimo:
– aptget install buildessential libncurses5dev
● Como siempre ./configure && make && make install– ./configure –help– ./configure –prefix=/usr/local/mysql– ./configure –withoutplugininnodb
● Tenemos que crear los usuarios:– # groupadd mysql– # useradd g mysql mysql
● Creamos las bases de datos necesarias para funcionar– # cd scripts– # ./mysql_install_db
Irontec – Administración de MySQL
5
Instalación
● Damos permisos a la carpeta:– # chown R root /usr/local/mysql– # chown R mysql /usr/local/mysql/var– # chgrp R mysql /usr/local/mysq
● Copiamos el fichero de configuración y lo editamos en caso de que sea necesario:
– # cp supportfiles/mymedium.cnf /etc/my.cnf
● Arrancamos MySQL :)– # /usr/local/mysql/bin/mysqld_safe –user=mysql
Irontec – Administración de MySQL
6
Instalación
● Los binarios podemos descargarlos de:http://dev.mysql.com/downloads/mysql/
# groupadd mysql# useradd g mysql mysql# cd /usr/local# tar xzf mysqlVERSIONOS.tar.gz# cd mysql# chown R mysql .# chgrp R mysql .# scripts/mysql_install_db user=mysql# chown R root .# chown R mysql data# bin/mysqld_safe user=mysql &
Irontec – Administración de MySQL
7
Instalación
● En Debian podemos hacer la instalación con apt-get :)
● ¡En cualquiera de los tres modos de instalación es necesario dar una contraseña a root!
Irontec – Administración de MySQL
8
SandBox
● Para crear una laboratorio de pruebas podemos:– Montar equipos físicos e instalarlos (de locos).– Montar máquinas virtuales.– Usar ¡sandbox!
Irontec – Administración de MySQL
9
SandBox
● SandBox nos permite:– Montar sistemas de replicación– Probar versiones nuevas de MySQL facilmente– Manejar múltiples instancias de MySQL desde un único
punto.– Te olvidas de rmps, sources, debs... ¡tar.gz binario!– Testear– Testear– Testear...
Irontec – Administración de MySQL
10
SandBox
● No es un producto oficial de MySQL.● Está escrito el perl (puag!) y aún así funciona bien.
http://mysqlsandbox.net/● Tendremos que descargar un paquete tar.gz de MySQL
y Sandbox.
Irontec – Administración de MySQL
11
Instalación
● ¡Como root!
root@shyris:~# tar xzf MySQLSandbox3.0.05.tar.gz
root@shyris:~# cd MySQLSandbox3.0.05/
root@shyris:~/MySQLSandbox3.0.05# perl Makefile.PL
root@shyris:~/MySQLSandbox3.0.05# make
root@shyris:~/MySQLSandbox3.0.05# make test
root@shyris:~/MySQLSandbox3.0.05# make install
root@shyris:/usr/local/bin# lslow_level_make_sandbox make_multiple_sandbox make_sandbox make_sandbox_from_source sb test_sandboxmake_multiple_custom_sandbox make_replication_sandbox make_sandbox_from_installed msandbox sbtool
Irontec – Administración de MySQL
12
Uso de SandBox
● Crear un sandbox con una única instancia de MySQL
punisher@shyris:~$ make_sandbox /home/punisher/MySQL/mysql5.0.86perconahighperfb19.tar.gz unpacking /home/punisher/MySQL/mysql5.0.86perconahighperfb19.tar.gzExecuting low_level_make_sandbox basedir=/home/punisher/MySQL/5.0.86 \
sandbox_directory=msb_5_0_86 \install_version=5.0 \sandbox_port=5086 \no_ver_after_name \my_clause=logerror=msandbox.err
Irontec – Administración de MySQL
13
Uso de SandBox
● Parar sandbox:– stop
● Arrancar sandbox:– start
● Utilizar sandbox:– use
● Reiniciar sandbox:– restart
● Limpiar el sandbox:– clean
Irontec – Administración de MySQL
14
Clientes
● Existen distintos clientes para conectarse a la BBDD● Clientes de consola
– Mysql– Mysqldump– Mysqladmin– Mysqlimport
● Gráficos– Mysql Administrator– Mysql Query Browser– MySQL Workbench
● etc.
Irontec – Administración de MySQL
15
Clientes
● Mysql: el típico, nos permite conectarse tanto de forma local como remota y ejecutar sentencias SQL
● Mysqldump: permite hacer backups● Mysqladmin: crear/borrar bases de datos, cambiar
contraseñas, ver el estado, variables, parar slaves, etc.● Mysqlimport “frontend” para “LOAD DATA INFILE”
Vienen ya incluidos en MySQL
Irontec – Administración de MySQL
20
Ficheros de configuración
● Algunos parámetros de configuración se pueden pasar directamente al mysqld
– mysqld –basedir /usr/local/mysql● Otros parámetros que se pueden especificar:
– Habilitar/deshabilitar engines– Opciones de rendimiento– Logs– …
● Es más cómodo especificarlo en los ficheros de configuración
Irontec – Administración de MySQL
21
Ficheros de configuración
● Por defecto busca los ficheros en las siguientes ubicaciones:
– /etc/my.cnf– $MYSQL_HOME/my.cnf– ~/.my.cnf
● Se puede añadir un fichero de configuración en el arranque con:
– defaultsextrafile
Irontec – Administración de MySQL
22
Ficheros de configuración
● El fichero se encuentra dividido en distintas secciones, por ejemplo [mysqld], [mysql], [mysqldump]
● Cada opción dentro de una categoría se aplica únicamente a dicha aplicación[mysql]prompt='mysql [\h] {\u} (\d) > '
[mysqld]user = punisherport = 5140socket = /tmp/mysql_sandbox5140.sock
[mysqldump]quickquotenamesmax_allowed_packet = 100M
Irontec – Administración de MySQL
24
Engines
● MySQL es modular, permite elegir entre diferentes engines para el almacenamiento de datos
● Los engines se aplican a tablas, no a bases de datos● Puedes tener una base de datos con diferentes engines,
dependiendo del tipo de datos o consultas que se hagan
Irontec – Administración de MySQL
25
Tablas
● Todas las tablas de MySQL tienen ciertas similitudes● Las tablas tienen .frm como formato. Este fichero
guarda la estructura de la tabla● Independientemente del engine, tendremos un .frm● A parte, podemos tener otros ficheros acompañando
al .frm
Irontec – Administración de MySQL
26
Engines
● Al crear una tabla se puede indicar el engine:
● Una vez que está creada, se puede cambiar el engine:
● También podemos saber con que engine se ha creado una tabla
create table t (i INT) ENGINE = MyISAM;
alter table t ENGINE = MyISAM;
Show create table t;
Irontec – Administración de MySQL
27
Engines
● ¿De que engines tenemos soporte?mysql [localhost] {msandbox} (mysql) > show engines\G*************************** 1. row *************************** Engine: InnoDB Support: YES Comment: Supports transactions, rowlevel locking, and foreign keysTransactions: YES XA: YES Savepoints: YES*************************** 2. row *************************** Engine: MRG_MYISAM Support: YES Comment: Collection of identical MyISAM tablesTransactions: NO XA: NO Savepoints: NO*************************** 3. row *************************** Engine: BLACKHOLE Support: YES Comment: /dev/null storage engine (anything you write to it disappears)Transactions: NO XA: NO Savepoints: NO[...]
Irontec – Administración de MySQL
28
MyISAM
● MyISAM es el engine por defecto en MySQL● Si no se indica lo contrario, todas las tablas se crearán
con este engine● Es obligatorio tener soporte para el engine en MySQL,
ya que todas las tablas de la BBDD son MyISAM● La tabla viene definida por tres ficheros:
– mitabla.frm– mitabla.MYD– mitabla.MYI
Irontec – Administración de MySQL
29
MyISAM
● Antes de usar MyISAM hay que conocer bien sus virtudes y defectos :)
● Soporta busquedas FULLTEXT● Al escribir se hace uso de bloqueo de tabla● Se puede usar para generar tablas MERGE● No soporta, transacciones, integridad referencial o
claves externas● Suele ser el más rápido en lecturas● No tiene cacheo de datos● Se pueden comprimir tablas para ahorrar espacio
http://dev.mysql.com/doc/refman/5.1/en/myisam-storage-engine.html
Irontec – Administración de MySQL
30
MyISAM
● El bloque en MyISAM se hace a nivel de tabla● No pueden ocurrir deadlocks (dos procesos se quedan
esperando a que termine el otro)● Soporta inserciones concurrentes siempre y cuando la
tabla no tenga “agujeros” causados por el borrado de datos (optimize table)
● Las escrituras tienen prioridad sobre las lecturas● El servidor intenta hacer las escrituras en el orden en
que las recibe
Irontec – Administración de MySQL
31
MyISAM
● Si una tabla se está leyendo y llega una petición de escritura, al escritura tiene que esperar
● Si una tabla se está escribiendo y llega una petición de lectura, la lectura tiene que esperar
● Si hay escrituras pendientes, las lecturas que lleguén tendrán que ponerse a la cola
Irontec – Administración de MySQL
32
MyISAM
● Las prioridades pueden moficiarse haciendo useo de los schedulers:
– LOW PRIORITY: para las querys que escriben datos. La escritura se queda esperando a que terminen todas las lecturas, incluso las que llegan después. Se escribirá cuando no exista ninguna lectura pendiente.
– HIGH PRIORITY: para las querys de lectura. Las querys con este modificador se mueven al principio de la cola, por delante de otras escrituras y lecturas
– DELAYED: para querys INSERT y REPLACE. El servidor mete en buffer las filas y lo inserta cuando no se esté usando la tabla. Las delayed se insertan en bloques en lugar de una a una aumentando el rendimiento
Irontec – Administración de MySQL
33
MyISAM
● MyISAM puede almacenar las filas en tres formatos, fixed, dynamic y compressed.
● FIXED– Todas las filas tienen el mismo tamaño– Ocupan más espacio– Se encuentran más rápido
● DYNAMIC– Usa un tamaño variable de datos (menos que fixed)– Las filas no se encuentran tan eficientemente– Puede haber más fragmentación
● COMPRESSED– Ocupan mucho menos espacio– Optimizado para consultas rápidas– Solo lectura
Irontec – Administración de MySQL
34
MyISAM
● Para conocer el formato en el que se encuetran las filas de una tabla:
● Crear tabla FIXED:
● Crear tabla DYNAMIC:
SHOW TABLE STATUS LIKE 't'\G
CREATE TABLE t (c CHAR(50)) ROW_FORMAT= DYNAMIC;
CREATE TABLE t (c CHAR(50)) ROW_FORMAT= FIXED;
Irontec – Administración de MySQL
35
MyISAM
● Una tabla MyISAM, fixed o dynamic, puede convertirse en tabla comprimida
● Se suelen comprimir aquellas que se usan para datos históricos y que nunca van a ser modificadas
● Son de solo lectura● Se comprimen con la utilidad myisampack● Se debe parar el servidor antes de comprimir
los datos● Se descomprimen con myisamchk --unpack
Irontec – Administración de MySQL
36
MyISAM
$ myisampack departments employeesdepartments is too small to compressCompressing employees.MYD: (300024 records) Calculating statistics Compressing file47.12% Remember to run myisamchk rq on compressed tables
$ myisamchk rq departments employees check record deletechain recovering (with sort) MyISAMtable 'departments'Data records: 9 Fixing index 1 Fixing index 2
check record deletechain recovering (with sort) MyISAMtable 'employees'Data records: 300024 Fixing index 1
Irontec – Administración de MySQL
37
Merge
● Una tabla merge es una colección de distintas tablas con la misma estructura
● Una query en la tabla merge se ejecuta en todas las tablas que la componen
● Puede ayudarnos a superar el tamaño máximo de una tabla MyISAM (256TB)
● Es mas lento, ya que tiene que leer múltiples tablas● Aumenta el número de descriptores de ficheros
abiertos requeridos
Irontec – Administración de MySQL
38
Merge
● Se suele utilizar para borrar millones de datos en un instante. Gracias a merge podemos borrar la tabla que lo compone en lugar de ir eliminando una a una cada filamysql> CREATE TABLE A (name varchar(100)) ENGINE=MyISAM; Query OK, 0 rows affected (0.00 sec)
mysql> CREATE TABLE B (name varchar(100)) ENGINE=MyISAM; Query OK, 0 rows affected (0.00 sec)
mysql> CREATE TABLE TOTAL (name varchar(100)) ENGINE=MERGE UNION=(A,B) INSERT_METHOD=LAST;
Query OK, 0 rows affected (0.01 sec)
Irontec – Administración de MySQL
39
Merge
● El problema de bloqueo se acentúa más con Merge● Cuando se bloquea para escritura, se bloquean todas
las tablas que contiene● Cuando se bloquea para lectura, se bloquean todas las
tablas que contiene● Añadir un registro en Merge puede traer como
consecuencia el bloqueo de cientos de tablas● Contra más tablas y mas datos, mas problemas de
rendimiento y bloqueos
Irontec – Administración de MySQL
40
Memory
● Es una tabla en memoria, lo cual ya nos da sus pros y contras solo con el nombre
– Es muy muy rápida– Los datos no se guardan después del reinicio del servidor– Usan la memoria RAM, por lo que no debe usarse para
tablas grandes– Usa bloqueo a nivel de tablas– No puede tener columnas TEXT o BLOB
Irontec – Administración de MySQL
41
Memory
● Soporta dos típos de índices, HASH y BTREE:– HASH: memory las usa por defecto. El algoritmo es muy
rápido para comparaciones que usen índices únicos. Pero solo se puede usar para comparaciones = o <=>
– BTREE: es preferible para índices que se usarán con comparaciones disintas a las anteriores. Por ejemplo: id<1024 or id BETWEEN 4000 and 5000
CREATE TABLE T (i int) ENGINE=MEMORY;
Irontec – Administración de MySQL
42
Federated
● Te permite usar tablas de otro servidores MySQL remotos
● De esta forma el cliente no debe conectarse a otros servidores para acceder a los datos
● Al estar en un servidor remoto, las federated no soportan el bloqueo de tablasCREATE TABLE federated_table ( id INT(20) NOT NULL AUTO_INCREMENT, name VARCHAR(32) NOT NULL DEFAULT '', other INT(20) NOT NULL DEFAULT '0', PRIMARY KEY (id), INDEX name (name), INDEX other_key (other))ENGINE=FEDERATEDDEFAULT CHARSET=latin1CONNECTION='mysql://fed_user@remote_host:9306/federated/test_table';
Irontec – Administración de MySQL
43
Federated
● Los engines que se conectan a un servidor externo para coger datos (como FEDERATED, NDB o SPIDER) tienen un funcionamiento poco optimo cuando las querys tienen condiciones
● En estos engines, la condición no se envia junto con la petición, por lo tanto el servidor remoto nos transmite TODAS las filas de la tabla para que nuestro MySQL local haga la búsqueda
● Para solucionarlo se debe implementar “CONDITION PUSHDOWN” ya sea mediante un parche o plugin
● Dependiendo del engine tendremos diferentes soluciones (o en algunos casos ninguna)
Irontec – Administración de MySQL
44
InnoDB
● InnoDB nos ofrece todo aquello de lo que MyISAM carece
– Claves externas– Integridad referencial– Bloqueo de filas en lugar de tablas– Auto recuperación ante errores– Transacciones y rollbacks– Cacheo de índices y datos– Etc...
http://dev.mysql.com/doc/refman/5.1/en/innodb.html
Irontec – Administración de MySQL
45
InnoDB
● ¿Y que perdemos al pasarnos a InnoDB?– Capacides de busqueda FULLTEXT– La posibilidad de comprimir las tablas– No poder hacer uso de Merge– “Sólo” 64 TB de datos por tabla
Irontec – Administración de MySQL
46
InnoDB
● InnoDB es un engine que cumple las características ACID:
– Atomic: O todas las sentencias se ejectuan correctamente o se cancelan.
– Consistent: Es consistente cuando una transacción que comienza la deja en estado consistente al terminar.
– Isolated: Una transacción no afecta a las demás.– Durable: Todos los cambios efectuados por una
transacción se graban. No se pierden datos.
Irontec – Administración de MySQL
47
InnoDB
● Cuando se producen múltiples transacciones que afectan a los mismos datos, pueden darse los siguientes problemas:
– Dirty read: es una lectura de una transacción de datos no commiteados realizados por otra. ¡Si finalmente esta última no hace el commit, lo que hemos leido no sirve!
– Non-repeatable: ocurre cuando una transacción realiza la misma petición de datos dos veces recibiendo resultados distintos
– Phantom: ocurre cuando aparece una fila que no era visible en la query, ya que otra transacción la ha incluido durante el proceso de lectura
Irontec – Administración de MySQL
48
InnoDB
● InnoDB dispone de 4 niveles de aislamiento:– READ UNCOMMITED: permite a una transacción ver
los datos sin commitear de otra. Se pueden dar non-repeatable reads, phantoms y dirty reads
– READ COMMITED: permite ver cambios de otras transacciones solo si están commiteados. Se pueden dar non-repeatable reads y phantoms
– REPETABLE READ: asegura que la misma SELECT ejecutada dos veces de los mismos valores. Las filas modificadas por una transacción no puden ser modificadas por otras. Se pueden dar phantoms
– SERIALIZE: separa completamente los efectos de unas transacciones sobre otras con la restricción de que las filas seleccionadas por una transacción no pueden ser accedidas por otras
Irontec – Administración de MySQL
49
InnoDB
● Por defecto InnoDB utiliza REPEATABLE READ para ser full ACID
● Para cambiar de uno a otro aislamiento de:
[mysqld]Transactionisolation = READCOMMITED
Irontec – Administración de MySQL
50
InnoDB
● InnoDB implementa la concurrencia en las transacciones siguiendo el modelo MVCC (multiversion concurrency control)
● Permite que cada transacción tenga una visión única de los datos (un snapshot) para tener una vista consistente con el paso del tiempo, sin tener en cuenta las modificaciones de otras transacciones
● Esto puede permitir que distintas transacciones vean datos diferentes de la misma tabla en un mismo momento
● Gracias a esto evitamos tener que bloquear siempre las filas. Menos overhead y más operaciones concurrentes
● En lecturas casi nunca se bloquearán las filas
Irontec – Administración de MySQL
51
InnoDB
● MVCC funciona añadiendo a cada fila dos valores adicionales que indican cuando fué creada y cuando fué eliminada
● Con esto InnoDB se asegura que al iniciar una transacción...
– La fila existía antes de iniciar la transacción– La fila no fué eliminada antes de iniciar la transacción
● Con cada actualización de la fila, la transacción actualiza los valores asociados
● El multiversioning se utiliza con:– REPETABLE READ– READ COMMITED
Irontec – Administración de MySQL
52
InnoDB
● Por defecto InnoDB viene habilitado con autocommit, cada query se commitea al instante
● Esto no nos permite hacer rollback ni agrupar querys en batch para mejorar el rendimiento
● ¿Y como desactivo el autocommit?– SET AUTOCOMIT = 0;– START TRANSACTION; COMMIT;
● Para habilitar el rollback podemos añadir un SAVEPOINT
– SAVEPOINT nombre; – ROLLBACK TO SAVEPOINT nombre;
Irontec – Administración de MySQL
54
Mantenimiento de tablas
● Existen una serie de comandos que nos ayudar al mantenimiento de las tablas
● Algunos son tienen utilidad en unos engines pero no en otros
● Podemos:– Chequear– Reparar– Analizar– Optimizar
Irontec – Administración de MySQL
55
Mantenimiento de tablas
● CHECK TABLE– Realizar un chequeo de integridad tanto de la estructura
como del contenido de los datos– Funciona tanto en MyISAM como InnoDB– En MyISAM además actualiza las estadísticas de los índices
● Su uso es el siguiente:mysql > check table A;+++++| Table | Op | Msg_type | Msg_text |+++++| pruebas.A | check | status | OK |+++++1 row in set (0.00 sec)
Irontec – Administración de MySQL
56
Mantenimiento de tablas
● REPAIR TABLE– Repara los errores que se puedan encontrar en una tabla– Solo funciona con MyISAM– Se puede habilitar el auto-reparado de tablas
[mysqld]myisamrecover=[Opciones]
Default: opciones por defecto Backup: hace backup de las tablas que tenga que cambiar Force: fuerza la reparación aunque se puedan perder datos Quick: las tablas no fragmentadas se evitan
Irontec – Administración de MySQL
57
Mantenimiento de tablas
● Reparación en caliente
mysql > repair table A;+++++| Table | Op | Msg_type | Msg_text |+++++| pruebas.A | repair| status | OK |+++++1 row in set (0.00 sec)
Irontec – Administración de MySQL
58
Mantenimiento de tablas
● ANALYZE TABLE– Actualiza las tablas con información acerca de la
distribución de los valores de las claves en la tabla– Esta información la usa el optimizador para elegir el mejor
plan de ejecución– Solo funciona en MyISAM
mysql > analyze table A;+++++| Table | Op | Msg_type | Msg_text |+++++| pruebas.A |analyze| status | OK |+++++1 row in set (0.00 sec)
Irontec – Administración de MySQL
59
Mantenimiento de tablas
● OPTIMIZE TABLE– Desfragmenta las tablas MyISAM, eliminando los huecos
generados por múltiples updates y deletes– Actualiza las estadísticas de los índices– Se puede utilizar en InnoDB, pero no desfragmenta (ya
que InnoDB no se fragmenta) Actualiza las estadísticas de índices y libera espacio relacionado con índices
mysql > optimize table A;+++++| Table | Op | Msg_type | Msg_text |+++++| pruebas.A |optimize| status | OK |+++++1 row in set (0.00 sec)
Irontec – Administración de MySQL
60
Mantenimiento de tablas
● Existen herramientas externas de consola que también nos pueden ayudar con el mantenimiento
– mysqlcheck– myisamchk
● Mysqlcheck envía las sentencias SQL necesarias para el mantenimiento. Por lo tanto, mysqld debe estár en funcionamiento
● Myisamchk no necesita de un servidor en funcionamiento, puede actuar directamente contra las tablas en el sistema de ficheros
Irontec – Administración de MySQL
61
Mantenimiento de tablas
● Mysqlcheck nos ofrece alguna ventaja al uso de las sentencias SQL directamente
– Podemos indicarle una BBDD para que haga operaciones de mantenimiento en todas sus tablas en lugar de indicar una a una
– Al ser un comando de consola, se puede crear una tarea programada
● Ejemplo:– Mysqlcheck test (chequea BBDD test)– Mysqlcheck test A (chequea tabla A de la BBDD test)– Mysqlcheck –all-databases (chequea todo)– --check, --repair, --analyze, --optimize
Irontec – Administración de MySQL
62
Mantenimiento de tablas
● Myisamchk permite realizar las mismas tareas que mysqlcheck
● Se debe hacer offline, con mysqld apagado● Actua directamente sobre las tablas● Es el último recurso cuando ni siquiera el servidor
arranca (por ejemplo, tablas en la BBDD mysql corruptas)
● Como el propio nombre indica, solo funciona con tablas MyISAM
Irontec – Administración de MySQL
64
Usuarios y permisos
● MySQL permite definir usuarios y decidir que pueden hacer
● Los usuarios siguen el siguiente formato:– 'usuario'@'host'
● No es lo mismo irontec@localhost que [email protected]
● La primera parte es el nombre de usuario con el que haremos login, mientras que la segunda será la IP desde la cual nos conectamos
Irontec – Administración de MySQL
65
Usuarios y permisos
● Se puede crear un usuario que se conecta desde cualquier ubicación:
– 'irontec'@'%'● Los usuarios y permisos se guardan dentro de las tablas
user y grant de la BBDD mysql● Es posible insertar datos directamente mediante la
consola de mysql, pero también es más lioso● ¡No debe existir nunca un 'root'@'%', por seguridad!
Irontec – Administración de MySQL
66
Usuarios y permisos
● Para ver todos los permisos disponibles y una descripción:
● Nos muestra tres columnas:– Privi lege: es el nombre del permiso– Context: contexto en el cual es posible aplicar el permiso– Comment: breve explicación
mysql > show privileges;
Irontec – Administración de MySQL
67
Usuarios y permisos
● Permisos especiales:– ALL y ALL PRIVILEGES da todos los permisos excepto
GRANT OPTION– USAGE no da ningún privilegio excepto el de conexión
Irontec – Administración de MySQL
68
Usuarios y permisos
● Los permisos pueden aplicarse en diferentes contextos:– Server– Databases– Tables– Functions– Procedures– Indexes– File Access
● Por ejemplo, no puedes dar permisos FILE a un usuario sobre una tabla, es un permiso global o CREATE ROUTINE a nivel de índice
● Todos pueden aplicarse globalmente
Irontec – Administración de MySQL
69
Usuarios y permisos
● Para crear un usuario se debe indicar tanto el usuario como el host y su contraseña (no obligatorio):
● Borrar un usuario:
● Renombrar un usuario:
mysql > create user 'irontec'@'localhost' IDENTIFIED BY '1234';
mysql > rename user 'irontec'@'localhost' TO 'miguelangel'@'localhost';
mysql > drop user 'irontec'@'localhost';
Irontec – Administración de MySQL
70
Usuarios y permisos
● Para cambiar una contraseña hay distintas formas:– Para un usuario en particular:
– Para tu usuario:
– Mediante GRANT:
mysql > SET PASSWORD for 'miguel'@'localhost' = PASSWORD('nueva');
mysql > SET PASSWORD = PASSWORD('nueva');
mysql > GRANT USAGE ON *.* TO 'miguel'@'localhost' IDENTIFIED BY 'nueva';
Irontec – Administración de MySQL
71
Usuarios y permisos
● Para dar permisos se usa GRANT● Importante: si el usuario al que damos permisos no
existe, lo crea
● Se pueden indicar múltiples permisos separándolos por comas
● Para aplicar a distintos contextos:– ON *.*– ON db.*– ON db.table– ON db.routine
mysql > GRANT SELECT ON mysql.* TO 'miguel'@'localhost' IDENTIFIED BY 'test';
Irontec – Administración de MySQL
72
Usuarios y permisos
● Para eliminar un permiso haremos uso de REVOKE:
● El usuario seguirá existiendo, pero sin el permiso indicado
● Si le borramos el último permiso, USAGE, no se podrá conectar
mysql > REVOKE SELECT ON mysql.* FROM 'miguel'@'localhost';
mysql > show grants for 'miguel'@'localhost';
Irontec – Administración de MySQL
74
Optimización de querys
● Hay que tener especial cuidado con las querys que se lanzan a una base de datos
● Si está mal construida puede degradar el rendimiento del servicio
● Es necesario detectar estas querys y reescribirlas completamente
● EXPLAIN nos ayudará a saber como se comportar internamente una query y cuales son sus deficiencias
Irontec – Administración de MySQL
75
Optimización de querys
● En primer lugar debemos detectar cuales son esas querys
● Para ello nos ayudaremos del log-slow● En este log se irán escribiendo las sentencias SQL que
tarden un tiempo superior al que le indiquemos● Su activación no afecta al rendimiento como otros logs
– logslowqueries=/var/log/mysql/slowquerys.log– long_query_time=5– Logqueriesnotusingindexes
● Log de querys lentas (superior a 5 segundos) así como querys sin índices :)
Irontec – Administración de MySQL
76
Optimización de querys
● El log puede crecer con el tiempo y leerlo con un editor de textos convertirse en un infierno
● No es necesario hacerte tu propio script, ya existen utilidades para dumpearlo
● Nos resumirá las querys lentas
/var/log/mysql# mysqldumpslow mysqlslow.log
Irontec – Administración de MySQL
77
Optimización de querys
● ¿Cómo se ve en el log?
/var/log/mysql# cat mysqlslow.log
# Query_time: 4.00s Lock_time: 0 Rows_sent: 0 Rows_examined: 1380SELECT * FROM foobar WHERE id="foo";# Query_time: 2.50s Lock_time: 0 Rows_sent: 0 Rows_examined: 1380SELECT * FROM foobar WHERE id="bar";
Irontec – Administración de MySQL
78
Optimización de querys
/var/log/mysql# mysqldumpslow mysqlslow.log
Count: 2 Time=4s (6.50s) Lock=0.00s (0s) Rows=1380 (2760)SELECT * FROM foobar WHERE id='S';
● Ejemplo de mysqldumpslow:
Irontec – Administración de MySQL
79
Optimización de querys
● Ya tenemos identificadas las querys lentas, ahora es necesario estudiarlas
– Mysql > explain [extended] SELECT [opciones]● Basicamente nos mostrará información del plan de
ejecución del optimizador● Sólo funciona con SELECT
Irontec – Administración de MySQL
80
Optimización de querys
● Problema:explain SELECT * from City where CountryCode='ESP'\G*************************** 1. row *************************** id: 1 select_type: SIMPLE table: City type: ALLpossible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 4079 Extra: Using where1 row in set (0.00 sec)
Irontec – Administración de MySQL
81
Optimización de querys● ID: identificador de la query, en caso de tener
subquerys● select_type: el tipo de select. Simple, primary,
derived, union, subquery● table: indica el nombre de la tabla utilizada● type: tipo de acceso para la query. system/const,
eq_ref, ref, ref_or_null, index_merge, range, index, ALL
● possible_keys: lista de índices disponibles para usar● key: índice utilizado● key_len: número de bytes utilizados del índice● rows: número de filas a leer● extra: información extra de la query
Irontec – Administración de MySQL
82
Optimización de querys
● Type:– system: la tabla tiene una única fila– const: la tabla tiene una única fila coincidente con la
query– eq_ref: la busqueda por índices da una única fila– ref: similar a eq_ref pero puede devolver más de una fila– ref_or_null: igual que los anteriores, pero también busca
valores NULL– index_merge: el único tipo de acceso que usa dos
índices– range: busqueda por rango– index: busqueda completa por la tabla, pero de índices
en lugar de los datos– ALL: escaneo completo de la tabla. MAL
Irontec – Administración de MySQL
83
Optimización de querys
● Extra:– Using index: se está usando un index, cogiendo el dato
del índice en lugar de la tabla– Using fi lesort: se ordenan las filas de forma manual en
lugar de usar índices– Using temporary: se ha usado una tabla temporal (en
RAM o disco) para realizar la consulta– Using where: el filtrado se hace fuera del engine
Irontec – Administración de MySQL
84
Optimización de querys
● Volvemos al problema :)explain SELECT * from City where CountryCode='ESP'\G*************************** 1. row *************************** id: 1 select_type: SIMPLE table: City type: ALLpossible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 4079 Extra: Using where1 row in set (0.00 sec)
Irontec – Administración de MySQL
85
Optimización de querys
● El optimizador no encuentra índices● Al no encontrar... no puede usar● Como no hay índices, el tipo de búsqueda es ALL, se
lee todas las filas● ¿Como podríamos mejorarlo?
– Añadiendo índices– Optimizar la query añadiendo más detalles
● Después de cada cambio hay que comprobar si existe mejora
Irontec – Administración de MySQL
86
Optimización de querys
● Añadiendo un índice:– Mysql>alter table City add index(CountryCode);Query OK, 4079 rows affected (0.02 sec)Records: 4079 Duplicates: 0 Warnings: 0
● Ejecutamos de nuevo la query con explain:
id: 1 select_type: SIMPLE table: City type: refpossible_keys: CountryCode key: CountryCode key_len: 3 ref: const rows: 58 Extra: Using where1 row in set (0.00 sec)
Irontec – Administración de MySQL
87
Optimización de querys
● Modificamos la query añadiendo más datos, haciéndola más concisa:
– explain SELECT * from City where CountryCode='ESP' and District='Madrid';
– alter table City add index(District); id: 1 select_type: SIMPLE table: City type: index_mergepossible_keys: CountryCode,District key: District,CountryCode key_len: 20,3 ref: NULL rows: 1 Extra: Using intersect(District,CountryCode); Using where1 row in set (0.00 sec)
Irontec – Administración de MySQL
89
Optimización de la base de datos
● Cuando nos referimos a optimizar la base de datos, esto implica en primer lugar optimizar el servidor
– RAM: contra más RAM, más índices y datos en memoria, por lo tanto más velocidad de respuesta
– CPU: nunca sobra la CPU y los cores ;)– Disco duro: contra más rápido mejor. Últimamente se
estan empezando a usar disco SSD para bases de datos● Una vez que tenemos el mejor equipo que podamos
comprar, tocará optimizar la base de datos de acuerdo a dicho hardware
Irontec – Administración de MySQL
90
Optimización de la base de datos
● ¿32 o 64 bits?● Siempre que sea posible es recomendable 64 bits● En sistemas GNU/Linux y Solaris de 32 bits, un solo
proceso no puede usar más de 2GB. Por lo tanto da igual que tengamos 4, MySQL usará la mitad
● En algunos sistemas, según un parámetro de configuración del kernel, puede disponer de 3 GB, pero puede ser insuficiente
● En 64 bits no existe esa limitación● Si tienes 32 bits, no configures MySQL para que use
mas de 2GB, tendrás errores de falta de memoriamemory=key_buffer+(sort_buffer_size+read_buffer_size)*max_connections
Irontec – Administración de MySQL
91
Optimización de la base de datos
● Las optimizaciones también dependerán mucho del tipo de querys que ejecutemos
● Para tener una estadísticamysql> show status l ike 'Com%';
Irontec – Administración de MySQL
92
Optimización de la base de datos
● Número máximo de conexiones (max_connections)– Son el número máximo de conexiones simultaneas que
soportará el servidor– Cada conexión en espera consume memoria– Se debe ajustar a un número no muy superior a la media
de nuestro servidor
mysql> show status like '%connections%';+++| Variable_name | Value |+++| Connections | 4651724 | | Max_used_connections | 41 | +++2 rows in set (0.01 sec)
Irontec – Administración de MySQL
93
Optimización de la base de datos
● Cache de tablas (table_cache)– Cada vez que mysql abre una tabla mantiene en cache
información sobre ella para evitar reabrirlas– Si se abren muchas y un usuario necesita abrir otra nueva,
una de las ya abiertas debe cerrarse– No vale poner millones y millones, estamos limitados por
los descriptores del sistema operativo● Si Open_tables está cercano a Table_cache y
Opened_tables no para de aumentar, toca subir el table_cache mysql> show status like 'Open%tables%';
+++| Variable_name | Value |+++| Open_tables | 1551 | | Opened_tables | 0 | +++2 rows in set (0.02 sec)
Irontec – Administración de MySQL
94
Optimización de la base de datos
● Cacheo de índices en MyISAM (key_buffer_size)– Cachea los índices que lee de una tabla MyISAM– Permite reutilizar los índices en lugar de leerlos
continuamente, más rendimiento– Para calcularlo:
Ratio de fallo: Key_reads / Key_read_requestsEficiencia: 1 – (Key_reads / Key_read_requests)
– Los fallos tienen que estar lo más cerca posible de 0 y eficiencia de 1mysql> show status like 'Key_read%';+++| Variable_name | Value |+++| Key_read_requests | 150683856 | | Key_reads | 325197 | +++2 rows in set (0.01 sec)
Irontec – Administración de MySQL
95
Optimización de la base de datos
● Buffer de InnoDB (innodb_buffer_pool_size)– Cache tanto los índices como los datos de una tabla
InnoDB– El valor por defecto es 8 megas, pero se recomienda entre
el 50% y 80% de la memoria total del sistema
mysql> show variables like 'innodb_buffer_pool_size';+++| Variable_name | Value |+++| innodb_buffer_pool_size | 838860800 | +++1 row in set (0.00 sec)
Irontec – Administración de MySQL
96
Optimización de la base de datos
● Cacheo de querys (query_cache_size)– Nos permite almacenar en cache el resultado de una query
select– La cache solo se mantiene mientras los datos de la tabla no
se modifiquen● query_cache_type: OFF desactivado, ON activado,
DEMAND solo para SELECT SQL_CACHE● query_cache_size: 0 es desactivado● query_cache_limit: el tamaño máximo de una query
que se puede almacenar
Irontec – Administración de MySQL
97
Optimización de la base de datos
● Midiendo la efectividad de la cache:– Qcache_hits: numero de querys que no se han
ejecutado por estar en cache– Qcache_inserts: el número total de querys guardadas en
la cache– Qcache_lowmem_prunes: número de caches
eliminadas por falta de memoria● Si hits es bajo e inserts alto... hay que aumentar la
caché
Irontec – Administración de MySQL
98
Optimización de la base de datos
● Otros valores:– read_buffer_size: cuando se lee una tabla lo leerá en
bloques del tamaño que aquí indiquemos. Contra mas grande, más rápido la leerá
– read_rnd_buffer_size: por defecto coge el valor del anterior. Se usa para lecturas no secuenciales (como las requeridas por ORDER BY)
– sort_buffer_size: para las operaciones con ORDER o GROUP BY
– join_buffer_size: para querys con joins
Irontec – Administración de MySQL
100
Optimización de tablas
● Si las tablas aumentan mucho puede llegar un momento en el que los índices ocupen más que la propia RAM del sistema
RAM
ÍNDICES
Irontec – Administración de MySQL
102
Optimización de tablas
● Si no queremos comprar más RAM, los índices se vuelven lentos
● Particionar se vuelve más rápido que los índices● Será nuestra salvación cuando:
– Nos quedemos sin RAM– Tenemos muchísimos datos– Guardamos datos históricos– Rotamos datos– Datos crecientes
Es transparente, no tendremos que modificar las aplicaciones
Irontec – Administración de MySQL
103
Optimización de tablas
● Cosas a tener en cuenta antes de particionar:– La columna que utilicemos para definir el rango de las
particiones debe ser un INT, no se acepta cualquier otro valor
– Si tenemos una clave única o una primary key, esta debe usarse para particionar
– Como máximo se permiten 1024 particiones– No se permiten claves externas– No se permiten búsquedas FULL TEXT
Irontec – Administración de MySQL
104
Optimización de tablas
● El particionado se puede hacer:– Por rango: es el más sencillo, se divide en base a rangos– Por l istas: se divide en particiones en base a una lista de
posibles valores– Por hash: nos permite dividir los datos de forma
equitativa entre todas las particiones. La expresión por la que separar los datos debe devolver un entero
– Por key: similar a hash. En lugar de indicar nosotros el valor del hash, lo hace el propio MySQL con md5 y password(). Pueden usarse columnas que no sean entero
Irontec – Administración de MySQL
105
Optimización de tablas
CREATE TABLE employees ( id INT NOT NULL, fname VARCHAR(30), lname VARCHAR(30), hired DATE NOT NULL DEFAULT '19700101', separated DATE NOT NULL DEFAULT '99991231', job_code INT NOT NULL, store_id INT NOT NULL)PARTITION BY RANGE (store_id) ( PARTITION p0 VALUES LESS THAN (6), PARTITION p1 VALUES LESS THAN (11), PARTITION p2 VALUES LESS THAN (16), PARTITION p3 VALUES LESS THAN (21), PARTITION p3 VALUES LESS THAN MAXVALUE);
Irontec – Administración de MySQL
106
Optimización de tablas
CREATE TABLE employees ( id INT NOT NULL, fname VARCHAR(30), lname VARCHAR(30), hired DATE NOT NULL DEFAULT '19700101', separated DATE NOT NULL DEFAULT '99991231', job_code INT, store_id INT)PARTITION BY LIST(store_id) ( PARTITION pNorth VALUES IN (3,5,6,9,17), PARTITION pEast VALUES IN (1,2,10,11,19,20), PARTITION pWest VALUES IN (4,12,13,14,18), PARTITION pCentral VALUES IN (7,8,15,16));
Irontec – Administración de MySQL
107
Optimización de tablas
CREATE TABLE employees ( id INT NOT NULL, fname VARCHAR(30), lname VARCHAR(30), hired DATE NOT NULL DEFAULT '19700101', separated DATE NOT NULL DEFAULT '99991231', job_code INT, store_id INT)PARTITION BY HASH( YEAR(hired) )PARTITIONS 4;
Irontec – Administración de MySQL
108
Optimización de tablas
CREATE TABLE Employee ( emp_id INT, fname VARCHAR(50), lname VARCHAR(50), store_id TINYINT ) ENGINE=MyISAM PARTITION BY KEY (lname) PARTITIONS 4;
Irontec – Administración de MySQL
109
Optimización de tablas
● Existe un script que nos permite crearnos la query de creación de particioneshttp://forge.mysql.com/wiki/Partition_Helper
./partitions_helper table=mytable column=d interval=year start=20040101 –end=20090101
./partitions_helper table=mytable column=d interval=month start=20080101 end=20090101
./partitions_helper table=mytable –column=prod_id interval=1000 start=1 –end=10000
Irontec – Administración de MySQL
110
Optimización de tablas
● Para comprobar si las particiones funcionan y en que partición se encuentran nuestros datos:
mysql [localhost] {msandbox} (employees) > explain partitions select count(*) from salarieswhere from_date between '20000101' and '20001231'\G*************************** 1. row *************************** id: 1 select_type: SIMPLE table: salaries partitions: p016 type: indexpossible_keys: NULL key: emp_no key_len: 4 ref: NULL rows: 2830488 Extra: Using where; Using index1 row in set (0.00 sec)
Irontec – Administración de MySQL
111
Optimización de tablas
● Mantenimiento de tablas RANGE y LIST– Se pueden añadir más particiones
ALTER TABLE gente ADD PARTITION (PARTITION p4 VALUES LESS THAN (2010));
– Se pueden eliminar particiones (borra datos)ALTER TABLE gente DROP PARTITION p4
– Se reorganizar particionesALTER TABLE gente REORGANIZE PARTITION p0 INTO (
PARTITION s0 VALUES LESS THAN (1960),
PARTITION s1 VALUES LESS THAN (1970)
);
Irontec – Administración de MySQL
112
Optimización de tablas
● Mantenimiento de tablas HASH y KEY– Se pueden añadir más particionesALTER TABLE gente ADD PARTITION PARTITIONS 2;
– Se pueden reducir el número de particiones, DROP no funcionaALTER TABLE gente COALESCALE PARTITION 2;
● Las particiones HASH o KEY se auto reorganizan según añadamos o eliminemos particiones
Irontec – Administración de MySQL
113
Optimización de tablas
● Reconstruir partición:– Borrar los datos de la partición para volver a insertarlos. De
esta forma solucionas el problema de fragmentado● Optimizar partición:
– Otra forma de solucionar la fragmentación. Reclama el espacio libre y reorganiza los datos
● Analizar partición:– Lee y almacena la distribución de índices
● Reparar partición:– Repara particiones corruptas
● Chequear partición:– Chequea una partición en busca de errores
Irontec – Administración de MySQL
114
Optimización de tablas
ALTER TABLE gente REBUILD PARTITION p1;ALTER TABLE gente OPTIMIZE PARTITION p1;ALTER TABLE gente ANALYZE PARTITION p1;ALTER TABLE gente REPAIR PARTITION p1;ALTER TABLE gente CHECK PARTITION p1;
Irontec – Administración de MySQL
116
Logs
● En MySQL tenemos 3 tipos de logs– Slow: guardan las querys lentas– Sql: guarda todas las querys que se ha recibido el servidor– Binlog: guarda únicamente las querys que modifican
datos● ¿Para que nos pueden servir?
– Arreglar querys lentas o sin índices– Debuggear a nivel SQL nuestra aplicación– Replicación o recuperación de backup
Irontec – Administración de MySQL
118
Logs
● SQL log almacena todas las querys que llegan a nuestro servidor
● Se puede usar para debuggear nuestra aplicación antes de pasarla a producción
● En producción no es recomendable tenerlo habilitado, consume muchos recusos tanto de CPU como de disco duro
● Si este log está activado, el logrotate debe estar habilitado
log=/var/log/mysql/mysql.log
Irontec – Administración de MySQL
119
Logs
● Los logs binarios almacenan los cambios que se realizan en la BBDD (update, insert, delete, alter, etc.)
● Nos sirven para:– Recuperación de backup– Replicación
● Es recomendable tenerlos habilitados, no consumen mucho y nos pueden salvar la vida
● En caso de replicación es obligatorio tenerlos habilitados
Irontec – Administración de MySQL
120
Logs
● Otras opciones:– max_binlog_size (por defecto y máximo 1 GB)– expire_logs_days– sync_binlog (>0)– replicate-do-db– replicate-ignore-db– binlog-do-db– binlog-ignore-db– replicate-do-table– replicate-wild-do-table– replicate-ignore-table– replicate-wild-ignore-table
Irontec – Administración de MySQL
122
Logs
● El diagrama para el logeo de tablas es demasiado grande y no entra ;)http://dev.mysql.com/doc/refman/5.0/en/replication-rules-table-options.html
● Para rellenar la diapositiva pondré un dibujo:
No se quien es el autor :(
Irontec – Administración de MySQL
124
Arquitecturas de replicación
● Tenemos varias formas de montar una arquitectura de replicación.
– Maestro-Maestro– Maestro-Esclavo– Circular
● Según lo que se necesite, se monta una u otra.
Irontec – Administración de MySQL
125
Limitaciones
● Un esclavo solo puede tener un maestro. Por el contrario, un maestro múltiples esclavos.
● No es recomendable montar una replicación por WAN. La replicación es asíncrona y sensible a latencias.
● En un servidor esclavo esta prohibido escribir datos, solo se usarán selects.
Irontec – Administración de MySQL
126
Maestro-Esclavo
● Un maestro, múltiples esclavos.● En el maestro se escribe, en el esclavo se lee.
Irontec – Administración de MySQL
127
Maestro-Esclavo
● Primero debemos configurar el maestro. Imprescindible:
– Habilitar los logs binarios.– Crear un usuario que permita conectarse a los esclavos.– Habilitar sync_binlog.– Elegir un server-id.
logbin=mysqlbinserverid=1sync_binlog=1
Irontec – Administración de MySQL
128
Maestro-Esclavo
● Dar permisos de conexión a los eslavos y dumpeamos la BD:
mysqldump BD masterdata=2 > dump_file;
mysql> grant replication slave on *.* to 'replication'@10.10.10.1 identified by 'slave';
mysql> grant replication slave on *.* to 'replication'@10.10.10.2 identified by 'slave';
Irontec – Administración de MySQL
129
Maestro-Esclavo
● Configuramos el eslavo:– Seleccionamos un ID diferente para cada uno.– Importamos la BD.– Nos configuramos como esclavo de un maestro.
$mysql u root p < dump
serverid=101
mysql> CHANGE MASTER TO MASTER_HOST = ‘10.10.10.100’, MASTER_USER = ‘replication’, MASTER_PASSWORD = ‘slave’, MASTER_LOG_FILE = ‘master_log_file’, MASTER_LOG_POS = master_log_pos;
Irontec – Administración de MySQL
130
Maestro-Esclavo
● Master_log_pos y Master_log_file indican al esclavo desde que posición del log binario deben leer, de forma que no se repliquen datos que ya tenemos.
● Podemos sacarlo con un dump como ya hemos visto o con el comando show master status;
● El log binario debe estár habilitado :)
Irontec – Administración de MySQL
131
Maestro-Esclavo
● No se debe dejar al servidor la elección de cuando escribir los datos al disco duro.
● Si el servidor se cae sin que algunos datos se escriban en el log, es posible que estos se pierdan (dependerá del sistema de ficheros).
● sync_binlog por defecto es 0, que deja que el servidor decida cuando realizar la escritura al disco.
● Se recomienda un valor de 1, para que se fuerce la escritura.
● Esto también es lento, dependerá de los discos duros instalados.
● Si el servidor se cae, como mucho perderemos una transacción.
Irontec – Administración de MySQL
132
Maestro-Esclavo
● Para comprobar si la replicación es correcta tenemos el comando show slave status.
● Este nos tiene que mostrar lo siguiente:
Slave_IO_Running: Se encarga de conectarse al maestro para comprobar cambiosSlave_SQL_Running: Se encarga de escribir las sentencias SQL.Seconds_Behind_Master: El lag en segundos entre el maestro y el esclavo.
[...]Slave_IO_Running: YesSlave_SQL_Running: Yes[...]Seconds_Behind_Master: 0
Irontec – Administración de MySQL
133
Maestro-Maestro
● Lo que se escribe en uno se replica en el otro.● Se puede escribir en los dos.
Irontec – Administración de MySQL
134
Maestro-Maestro
● La arquitectura maestro-maestro es igual a la maestro esclavo.
● Aquí los hosts realizan las dos tareas, maestro y esclavo al mismo tiempo.
● Esta arquitectura soporta como máximo dos hosts, ya que un esclavo solo puede tener como máximo un maestro.
A es maestro de B. B es maestro de A.A es esclavo de B. B es esclavo de A.
Irontec – Administración de MySQL
135
Maestro-Maestro
● Se debe tener en cuenta, al igual que antes, lo siguiente:
– Habilitar el log binario.– Seleccionar un server-id.– Establecer el valor de sync_binlog.– Crear los usuarios para la replicación.
● El funcionamiento, opciones, monitorización, etc. es todo igual.
Irontec – Administración de MySQL
136
Maestro-Maestro
● Los auto-incrementales son el gran problema de este tipo de arquitectura. Si se realizan dos insert al mismo tiempo que incluya un campo autoincremental, podemos tener un problema de ID duplicado.
● A envía a B un artículo cuyo ID autoincremental es 3000, B envía un artículo diferente a A cuyo autoincremental es 3000 también. La replicación se rompe.
– auto_increment_increment = 2– auto_increment_offset = 1
● ¿Cómo sería para el server B?
Irontec – Administración de MySQL
137
Circular
● Lo que se escribe en uno se replica en el siguiente, este en el siguiente, este en... A B C D A→ → → →
● Es la menos recomendable. En realidad está casi prohibida también ;)
Irontec – Administración de MySQL
138
Circular
● Es una forma de disponer de más de dos servidores en arquitectura maestro-maestro.
● Contra más sean los hosts implicados, mayor el caos de su administración.
A B C D E A→ → → → →● Si el host C se cae (por ejemplo) la replicación se
rompe. Lo escrito en B no se replica, lo escrito en D se replica en todos menos en C, etc.
● Si se cae por ejemplo B y D, el caos es infinito. La solución es salir corriendo.
● A no ser que no exista otra solución, no se recomienda.
Irontec – Administración de MySQL
139
Circular
● Los logs que reciben los esclavos, deben logearlos en el log binario para enviarselo al siguiente en la cadena. Esto no es el funcionamiento por defecto, los que se recibe como esclavo no se logea. Para cambiarlo:
– logslaveupdates
● En algún momento de la cadena nos llegarán nuestros propios logs. Para evitar formar un bucle:
– Replicatesameserverid=0
● También habrá que tener cuidado con los auto-incrementales:
– auto_increment_increment=4– auto_increment_offset=1
Irontec – Administración de MySQL
141
Replicación rota
● Es recomendable tener el error-log habilitado, ahí se guardará, entre otras cosas, cualquier error relacionado con la replicación.
● ¡EJEMPLO!
Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16 [ERROR] Slave: Error 'Table 't' already exists' on query. Default database: 'mysql'. Query: 'CREATE TABLE t (c CHAR(20) CHARACTER SET utf8 COLLATE utf8_bin)', Error_code: 1050
Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16 [ERROR] Error running query, slave SQL thread aborted. Fix the problem, and restart the slave SQL thread with "SLAVE START". We stopped at log 'mysqlbin.000003' position 421
Irontec – Administración de MySQL
142
Replicación rota
● Forma rápida y no tan buena de solucionarlo:● Decirle al esclavo que ignore esa query y continue con
la replicación:
mysql> stop slave; Query OK, 0 rows affected (0.00 sec)
mysql> SET GLOBAL SQL_SLAVE_SKIP_COUNTER = 1; Query OK, 0 rows affected (0.00 sec)
mysql> start slave;
Irontec – Administración de MySQL
143
Replicación rota
● Forma buena de solucionarlo:http://www.maatkit.org/
● Maatkit makes MySQL easier to manage.● Lo de “easier” ponedlo entre muchas comillas.● Son una colección de herramientas que nos puede
ayudar en la administración de nuestro servidores, y en este caso en particular, en rescatar una replicación.
● Todas las utilidades:http://www.maatkit.org/doc/
Irontec – Administración de MySQL
144
Replicación rota
● Para saber si dos tables están sincronizadas, podemos sacar un checksum de estas y comparar:
– mktablechecksum
● Para sincronizar los datos de dos tablas:– mktablesync
$ mktablechecksum h=host1,u=user,p=password h=host2
$ mktablesync –execute u=user,p=pass,h=host1,D=db,t=tbl host2
Irontec – Administración de MySQL
145
MMM
● Cuando ya sabemos que queremos y lo montamos, llega el mantenimiento.
● Si tenemos un cluster de, por ejemplo, 2 maestros y 50 esclavos, comprobar el correcto funcionamiento es complicado.
● ¿Y si deseamos parar algún esclavo?● ¿Y si deseamos parar algún maestro?● Es necesario reducir el tiempo de parada de
servicio al mínimo.
Irontec – Administración de MySQL
147
MMM
● También el Perl. El mundo se ha vuelto loco...● Características:
– Monitorización de la replicación– Monitorización de los hosts– Gestión del failover– Balanceo de IPs entre nodos– Gestión de grupos de escritura/lectura
Irontec – Administración de MySQL
148
MMM
● La alta disponibilidad se hace mediante el balanceo de Ips virtuales que saltarán de un servidor a otro en caso de ser necesario.
– Exclusivo: Una única IP para muchos hosts. Si el host que la tiene se cae se balancea a otro. Generalmente se usa en los nodos de escritura.
– Balanceado: Una IP por cada host. Si uno de los hosts se cae la IP se balancea a cualquier otro, pasando a tener dos IPs virtuales. Se usa para nodos en lectura.
Irontec – Administración de MySQL
149
MMM
● Se pueden meter los servidores dentro de dos roles, escritura y lectura. Escritura es obligatorio, mientras que el de lectura no tiene porque definirse.
● La diferencia es lógica:– Nodos de escritura son aquellos en los que los datos se
escribirán.– Nodos de lectura son aquellos de los cuales se leerán
datos.● Escritura (maestro) – Lectura (esclavo)
Irontec – Administración de MySQL
150
MMM
http://mysql-mmm.org/● En el sistema de control se instalará:
– mysql-mmm-common_2.0.10-1_all.deb– mysql-mmm-monitor_2.0.10-1_all.deb
● En los nodos:– mysql-mmm-common_2.0.10-1_all.deb– mysql-mmm-agent_2.0.10-1_all.deb
● ¡Junto con todas las dependencias!
Irontec – Administración de MySQL
151
MMM
● Los ficheros de configuración se guardan en /etc/mysql-mmm
● Todos tendrán un fichero llamado mmm_common.conf que será exactamente igual.
● El nodo de control mmm_mon.conf● Los servidores de MySQL mmm_agent.conf
Irontec – Administración de MySQL
152
MMM
● mmm_common.conf● Incluye la configuración de:
– Los Hosts– Sus Ips– Los roles– Usuario/Contraseña del agente– Usuario/Contraseña para la replicación– La interfaz de red en la que se trabaja
Irontec – Administración de MySQL
153
MMM
● mmm_mon.conf● Incluye la configuración de:
– Usuario/Contraseña para la monitorización– Ips a las que pingar– Ruta de los binarios– Ruta del PID– Nivel de debug
Irontec – Administración de MySQL
154
MMM
● mmm_agent● Incluye la configuración de:
– El nombre de este servidor– Todo el mmm_common.conf– Y nada más :P
Irontec – Administración de MySQL
155
MMM● Como hemos visto, hay varios usuarios y contraseñas
definidos. Hay que crerlos en MySQL.
– El usuario monitor se usa para comprobar el estado de los servidores Mysql.
– El usuario agent se usa para cambiar el read only mode, poner offline un equipo, ejecutar un change_master, etc.
– El usuario replication slave... para replicación ;)
GRANT REPLICATION CLIENT ON *.* TO 'mmm_monitor'@'10.100.1.%' IDENTIFIED BY 'RepMonitor';
GRANT SUPER, REPLICATION CLIENT, PROCESS ON *.* TO 'mmm_agent'@'10.100.1.%' IDENTIFIED BY 'RepAgent';
GRANT REPLICATION SLAVE ON *.* TO 'replication'@'10.100.1.%' IDENTIFIED BY 'slave';
Irontec – Administración de MySQL
156
MMM
● Una vez puesto en marcha los servicios, se deben poner online los servidores desde el comando de control.MMM:~# mmm_control show db1(10.100.1.1) master/AWAITING_RECOVERY. Roles: db2(10.100.1.2) master/AWAITING_RECOVERY. Roles: db3(10.100.1.3) slave/AWAITING_RECOVERY. Roles: db4(10.100.1.4) slave/AWAITING_RECOVERY. Roles:
MMM:~# mmm_control set_online db1OK: State of 'db1' changed to ONLINE. Now you can wait some time and check its new roles!MMM:~# mmm_control set_online db2OK: State of 'db2' changed to ONLINE. Now you can wait some time and check its new roles!MMM:~# mmm_control set_online db3OK: State of 'db3' changed to ONLINE. Now you can wait some time and check its new roles!MMM:~# mmm_control set_online db4OK: State of 'db4' changed to ONLINE. Now you can wait some time and check its new roles!
Irontec – Administración de MySQL
157
MMM
● ¡Ejemplo! Parando un servidor en producción:
MMM:~# mmm_control set_offline db1OK: State of 'db1' changed to ADMIN_OFFLINE. Now you can wait some time and check all roles!
MMM:~# mmm_control show db1(10.100.1.1) master/ADMIN_OFFLINE. Roles: db2(10.100.1.2) master/ONLINE. Roles: writer(10.100.1.10) db3(10.100.1.3) slave/ONLINE. Roles: reader(10.100.1.12) db4(10.100.1.4) slave/ONLINE. Roles: reader(10.100.1.11)
Irontec – Administración de MySQL
159
MySQL Proxy
● El balanceo de carga se puede hacer bien por hardware como por software.
● Existe un software creado para MySQL que nos puede “ayudar”.
● Para que te ayude debes saber LUA.http://forge.mysql.com/wiki/MySQL_Proxy
● Es un proxy que se pone entre el cliente y los servidores de MySQL.
Irontec – Administración de MySQL
160
MySQL Proxy
● Trae scripts de ejemplo, que entre otras cosas te permite:
– Reescribir queries.– Balanceo de carga.– Loggeo avanzado.– Failover.– Análisis de queries.
Irontec – Administración de MySQL
161
MySQL Proxy
● La instalación es sencilla, descargamos de:– http://dev.mysql.com/downloads/mysql-proxy/
● Descomprimimos en:– /usr/local/mysql-proxy
● Tenemos el binario en bin● Tenemos scripts de ejemplo en share/doc/mysql-proxy/
Irontec – Administración de MySQL
162
MySQL Proxy
● Los parámetros mínimos a indicar son los servidores para los cuales hará de proxy
● Si no se indica nada más, actuará como balanceador de carga round-robin
● Proxy:
● Dos conexiones de ejemplo balanceadas:
mysqlproxy proxyaddress=10.10.0.123:4040 proxybackendaddresses=127.0.0.1:18002 proxybackendaddresses=127.0.0.1:18001
mysql> show variables like '%host%';+++| Variable_name | Value |+++| hostname | shyris | | report_host | SBnode2 | +++2 rows in set (0,00 sec)
mysql> show variables like '%host%';+++| Variable_name | Value |+++| hostname | shyris | | report_host | SBnode1 | +++2 rows in set (0,00 sec)
Irontec – Administración de MySQL
163
MySQL Proxy
● Ya vienen una serie de scripts incluidos● Algunas funciones del script:
– Balancear lecturas entre nodos esclavos– Separar lecturas/escrituras entre distintos nodos– Reescribir querys– …
● Para hacer uso de un script se usa la opción:– proxyluascript=
Irontec – Administración de MySQL
164
MySQL Proxy
● Ejemplo de reescritura de querys (template-rewrite):– mysqlproxy proxyaddress=10.10.0.123:4040 proxybackend
addresses=127.0.0.1:24155 –proxyluascript=/usr/local/mysqlproxy/share/doc/mysqlproxy/tutorialrewrite.lua
● Ahora podemos ejecutar en MySQL los comandos ls y who :)
Irontec – Administración de MySQL
165
Otras soluciones de HA y LB
● MMM o MySQL proxy son solo algunas de las soluciones de alta disponibilidad y balanceo de carga
● Hay muchas opciones, propias de MySQL o genericas del sistema operativo
– MySQL Cluster– DRBD– LVS– Heartbeat– Flipper– etc.
Irontec – Administración de MySQL
166
Otras soluciones de HA y LB
● Cada uno tiene sus puntos debiles y fuertes● Antes de decirdirse...
– Documentarse– Probar– Probar– Probar– Documentarse– Probar– Y elegir!
● Importante, que tenga una buena comunidad de usuarios/desarrolladores detrás :)
Irontec – Administración de MySQL
168
Backup
● Siempre es importante tener un buen backup● Además de tenerlo, ¡debe funcionar cuando lo
necesitemos!● En MySQL no hay una única forma de realizar los
backups, existen muchas herramientas● Los backups pueden ser:
– De texto plano– Binarios
Irontec – Administración de MySQL
169
Backup
● Backup texto plano● Estos backups son generalmente más lentos● Generan un fichero con todas las secuencias SQL
necesarias para recuperar una BBDD o tabla● Son portables entre distintas arquitecturas● El servidor de MySQL tiene que estar en
funcionamientomysqldump
outfile
Irontec – Administración de MySQL
170
Backup
● Backups binarios● Són más rápidos● No son portables a diferentes arquitecturas, p.ej de
Intel x86 a PowerPC● El servicio puede estar parado● En resumen, se trata de copiar los ficheros de las tablas
a mano o con herramientas especializadasmysqlhotcopy
xtrabackupibbackup
cp
Irontec – Administración de MySQL
171
Backups
● Outfi le● Es posible hacer backup desde el propio MySQL
● El fichero de salida no debe existir● Vale para cualquier engine● Requiere privilegio FILE● No tiene muchas más opciones :)● Válido tanto para un MySQL local como remoto● Limitado pero funcional para un momento dado
mysql> SELECT * INTO OUTFILE 'fichero' FROM tabla;
Irontec – Administración de MySQL
172
Backup
● Mysqldump● Puede hacer copia de BBDD completas, o tablas● Puede ser local o remoto (almacenándose siempre
localmente)● Puedes guardar los datos en ficheros con campos
separados por tabulador (el típico CSV)
Irontec – Administración de MySQL
173
Backup
● Mysqldump● Dumpear una BD:
– mysqldump miBD > fichero● Dumpear varias tablas de una BD:
– mysqldump miDB tabla1 tabla2 > fichero● Dumpar dos DB:
– mysqldump –databases miDB tuDB > fichero● Dumpear todas las DB:
– mysqldump –all-databases > fichero
Irontec – Administración de MySQL
174
Backup
● mysqldump● Por defecto se aplica la opción –opt, que incluye:
– add-locks: Añade lock tables para las tablas dumpeadas (asi al recuperar ningun proceso interfiere en las tablas)
– create-options: Añade los statements CREATE TABLE, de forma que las crea y luego las llena de datos
– quick: Escribe en el dump segun va leyendo las filas. Bueno si tienes una tabla enorme
– extended-insert: En lugar de mil inserts, agrupa varios inserts en uno solo
– lock-tables: Bloquea las tablas antes hacer el backup– disable-keys: Añade un alter table que deshabilita la
actualización de los índices al recuperar el backup, esto hace que la recuperación seá mas rapida
Irontec – Administración de MySQL
175
Backup
● Backup binario de myisam● Para hacer un backup binario de tablas myisam se
deben copiar los ficheros .frm .MYD y .MYI● El servidor debe estar parado o... en caso de estár
encendido las tablas bloqueadas:mysql> use MyDB;mysql> LOCK TABLES MyTable READ;mysql> FLUSH TABLES MyTable;… backupmysql> UNLOCK TABLES;
Irontec – Administración de MySQL
176
Backup
● Backup binario de MyISAM● Es un script en perl que puede hacer backup de tablas
MyISAM● Se conecta a MySQL, bloquea las tablas, las flushea y
finalmente las copiamysqlhotbackup world /tmp/backupmysqlhotbackup world./City/ /tmp/backup
Irontec – Administración de MySQL
177
Backup
● Backup binario de InnoDB● Es necesario tener el servidor parado● Se debe copiar:
– Los ficheros .frm– Los tablespaces .ibd– Los logs de InnoDB– Los ficheros de configuración que tengas con opciones de
InnoDB● Para hacerlo online existen soluciones comerciales
(InnoDB Hot Backup) y soluciones libres (xtrabackup)
Irontec – Administración de MySQL
178
Backup
● XtraBackup● Herramienta de backup desarrollado por Percona para
hacer backup en vivo de tablas InnoDBhttp://www.percona.com/mysql/xtrabackup/
● El binario xtrabackup por defecto solo soporta InnoDB● Viene un script en Perl llamado innobackupex-1.5.1
que nos copiará todas las BBDD y tablas existentes (será como un frontend para XtraBackup)
● El binario XtraBackup por si sólo únicamente backupea el tablespace
Irontec – Administración de MySQL
179
Backup
● XtraBackup● Hacer un backupinnobackupex1.5.1 /tmp/backup/
● Preparar el backup (aplicar los logs de innodb creados durante el backup)innobackupex1.5.1 applylog /tmp/backup/
● ¡Listo! En /tmp/backup tienes una carpeta con la fecha del backup que se puede copiar directamente a /var/lib/mysql
● ¡ATENCION! Los permisos no se mantienen, tienes que reaplicarlos
Irontec – Administración de MySQL
180
Backup
● Binary logs● Si haces un backup todos los días a las 00:00 y la
BBDD se rompe a las 08:00, has perdido 8 horas de datos
● Los logs binarios nos permiten recuperar esos datos● Extraer a un .sql
mysqlbinlog /var/log/mysql/bin.123456 /tmp/mysql_restore.sql
● Recuperar todo el binlogmysqlbinlog /var/log/mysql/bin.123456 | mysql u root
● Recuperar hasta una fecha/horamysqlbinlog stopdate="20050420 9:59:59"/var/log/mysql/bin.123456 | mysql u root
● Recuperar desde una fecha/horamysqlbinlog startdate="20050420 10:01:00" /var/log/mysql/bin.123456| mysql u root
Irontec – Administración de MySQL
181
Se acabó
miguel2angel
http://miguelangelnieto.net