home *** CD-ROM | disk | FTP | other *** search
/ PC World 2002 July & August / PCWorld_2002-07-08_cd.bin / Komunik / MySQL / mysql / data1.cab / Development / bench / copy-db < prev    next >
Text File  |  2002-02-21  |  10KB  |  372 lines
  1. #!/usr/bin/perl
  2. # Copyright (C) 2000 MySQL AB & MySQL Finland AB & TCX DataKonsult AB
  3. #
  4. # This library is free software; you can redistribute it and/or
  5. # modify it under the terms of the GNU Library General Public
  6. # License as published by the Free Software Foundation; either
  7. # version 2 of the License, or (at your option) any later version.
  8. #
  9. # This library is distributed in the hope that it will be useful,
  10. # but WITHOUT ANY WARRANTY; without even the implied warranty of
  11. # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12. # Library General Public License for more details.
  13. #
  14. # You should have received a copy of the GNU Library General Public
  15. # License along with this library; if not, write to the Free
  16. # Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  17. # MA 02111-1307, USA
  18. #
  19. # start initialition
  20. #
  21.  
  22. $VER = "1.0";
  23.  
  24. use Getopt::Long;
  25. use DBI;
  26.  
  27. $max_row_length=500000;        # Don't create bigger SQL rows that this
  28. $opt_lock=1;            # lock tables
  29.  
  30. chomp($pwd = `pwd`); $pwd = "." if ($pwd eq '');
  31.  
  32. require "$pwd/server-cfg" || die "Can't read Configuration file: $!\n";
  33.  
  34. $|=1;
  35.  
  36. $opt_from_server= $opt_to_server= "mysql";
  37. $opt_from_host= $opt_to_host=     "localhost";
  38. $opt_from_db= $opt_to_db=         "test";
  39. $opt_from_user=$opt_from_password=$opt_to_user=$opt_to_password="";
  40. $opt_help=$opt_verbose=$opt_debug=0;
  41.  
  42.  
  43. GetOptions("from-server=s","to-server=s","from-host=s","to-host=s","from-db=s",
  44.        "to-db=s", "help", "verbose","debug") || usage();
  45.  
  46. usage() if ($opt_help || 
  47.         ($opt_from_server eq $opt_to_server && 
  48.          $opt_from_db eq $opt_to_db &&
  49.          $opt_from_host eq $opt_to_host));
  50.  
  51. ####
  52. #### Usage
  53. ####
  54.  
  55.  
  56. sub usage
  57. {
  58.   print <<EOF;
  59.  
  60. $0 version $VER by Monty
  61.  
  62.  Copies tables between two database servers. If the destination table doesn\'t
  63.  exist it\'s autoamticly created.  If the destination table exists, it
  64.  should be compatible with the source table.
  65.  
  66.  Because DBI doesn\'t provide full information about the columns in a table,
  67.  some columns may not have optimal types in a create tables.  Any created
  68.  tables will also not have any keys!
  69.  
  70.   Usage: $0 [options] tables...
  71.  
  72.   Options:
  73.   --help         Show this help and exit
  74.   --from-server      Source server            (Default: $opt_from_server)
  75.   --from-host     Source hostname        (Default: $opt_from_host)
  76.   --from-db       Source database name        (Default: $opt_from_db)
  77.   --from-user      Source user            (Default: $opt_from_password)
  78.   --from-password Source password        (Default: $opt_from_password)
  79.   --to-server     Destination server        (Default: $opt_to_server)
  80.   --to-host       Destination hostname        (Default: $opt_to_host)
  81.   --to-db         Destination database name    (Default: $opt_to_db)
  82.   --to-user      Destination user        (Default: $opt_to_user)
  83.   --to-password      Destination password        (Default: $opt_to_password)
  84.   --verbose      Be more verbose
  85.  
  86.   If you the server names ends with _ODBC, then this program will connect
  87.   through ODBC instead of using a native driver.
  88. EOF
  89.    exit(0);
  90. }
  91.  
  92. ####
  93. #### Connect
  94. ####
  95.  
  96. $from_server=get_server($opt_from_server,$opt_from_host,$opt_from_db);
  97. $to_server=get_server($opt_to_server,$opt_to_host,$opt_to_db);
  98.  
  99. $opt_user=$opt_from_user; $opt_password=$opt_from_password;
  100. print "- connecting to SQL servers\n" if ($opt_verbose);
  101. $from_dbh=$from_server->connect() || die "Can't connect to source server $opt_from_server on host $opt_from_host using db $opt_from_db";
  102. $opt_user=$opt_to_user; $opt_password=$opt_to_password;
  103. $to_dbh=$to_server->connect() || die "Can't connect to source server $opt_to_server on host $opt_to_host using db $opt_to_db";
  104.  
  105. ####
  106. #### Copy data
  107. ####
  108.  
  109. foreach $table (@ARGV)
  110. {
  111.  
  112.   print "- querying $table\n" if ($opt_verbose);
  113.   $sth=$from_dbh->prepare("select * from $table") || die "Can't prepare query to get $table; $DBI::errstr";
  114.   $sth->execute || die "Can't execute query to get data from $table; $DBI::errstr";
  115.  
  116.   if (!table_exists($to_server,$to_dbh,$table))
  117.   {
  118.     print "- creating $table\n" if ($opt_verbose);
  119.     $table_def=get_table_definition($from_server,$from_dbh,$sth);
  120.     do_many($to_dbh,$to_server->create($table,$table_def,[]));
  121.   }
  122.   if ($opt_lock && $to_server->{'lock_tables'})
  123.   {
  124.     print "- locking $table\n" if ($opt_verbose);
  125.     $to_dbh->do("lock tables $table WRITE");
  126.   }
  127.  
  128.   $columns=$sth->{NUM_OF_FIELDS};
  129.   $columns_to_quote=get_columns_to_quote($sth);
  130.   $insert_multi_value=$sth->{'insert_multi_value'};
  131.   $query="insert into $table values"; $result="";
  132.  
  133.   print "- copying $table\n" if ($opt_verbose);
  134.   while (($row = $sth->fetchrow_arrayref))
  135.   {
  136.     $tmp="(";
  137.     for ($i=0 ; $i < $columns ; $i++)
  138.     {
  139.       if ($columns_to_quote->[$i])
  140.       {
  141.     $tmp.= $to_dbh->quote($row->[$i]) . ",";
  142.       }
  143.       else
  144.       {
  145.     $tmp.= $row->[$i] . ",";    
  146.       }
  147.     }
  148.     substr($tmp,-1)=")";        # Remove last ','
  149.     if ($insert_multi_value)
  150.     {
  151.       $to_dbh->do($query . $tmp) || die "Can't insert row: $DBI::errstr";
  152.     }
  153.     elsif (length($result)+length($tmp) >= $max_row_length && $result)
  154.     {
  155.       $to_dbh->do($query . $result) || die "Can't insert row: $DBI::errstr";
  156.       $result="";
  157.     }
  158.     elsif (length($result))
  159.     {
  160.       $result.= ",$tmp";
  161.     }
  162.     else
  163.     {
  164.       $result=$tmp;
  165.     }
  166.   }
  167.   if (length($result))
  168.   {
  169.     $to_dbh->do($query . $result) || die "Can't insert row: $DBI::errstr";
  170.   }
  171.   if ($opt_lock && $to_server->{'lock_tables'})
  172.   {
  173.     $to_dbh->do("unlock tables");
  174.   }
  175. }
  176.  
  177.  
  178. sub get_table_definition
  179. {
  180.   my ($server,$dbh,$sth)=@_;
  181.   my ($i,$names,$types,$scale,$precision,$nullable,@res);
  182.  
  183.   $names=$sth->{NAME};
  184.   $types=$sth->{TYPE};
  185.   $nullable=$sth->{NULLABLE};
  186.   if (0)
  187.   {
  188.     # The following doesn't yet work
  189.     $scale=$sth->{SCALE};
  190.     $precision=$sth->{PRECISION};
  191.   }
  192.   else
  193.   {
  194.     my (@tmp);
  195.     @tmp= (undef()) x $sth->{NUM_OF_FIELDS};
  196.     $precision= $scale= \@tmp;
  197.   }
  198.   for ($i = 0; $i < $sth->{NUM_OF_FIELDS} ; $i++)
  199.   {
  200.     push(@res,$names->[$i] . " " .
  201.      odbc_to_sql($server,$types->[$i],$precision->[$i],$scale->[$i]) .
  202.      ($nullable->[$i] ? "" : " NOT NULL"));
  203.   }
  204.   return \@res;
  205. }
  206.  
  207.  
  208. sub odbc_to_sql
  209. {
  210.   my ($server,$type,$precision,$scale)=@_;
  211.  
  212.   if ($type == DBI::SQL_CHAR())
  213.   {
  214.     return defined($precision) ? "char($precision)" : "varchar(255)";
  215.   }
  216.  
  217.   if ($type == DBI::SQL_NUMERIC())
  218.   {
  219.     $precision=15 if (!defined($precision));
  220.     $scale=6 if (!defined($scale));
  221.     return "numeric($precision,$scale)";
  222.   }
  223.   if ($type == DBI::SQL_DECIMAL())
  224.   {
  225.     $precision=15 if (!defined($precision));
  226.     $scale=6 if (!defined($scale));
  227.     return "decimal($precision,$scale)";
  228.   }
  229.   if ($type == DBI::SQL_INTEGER())
  230.   {
  231.     return "integer" if (!defined($precision));
  232.     return "integer($precision)";
  233.   }
  234.   if ($type == DBI::SQL_SMALLINT())
  235.   {
  236.     return "smallint" if (!defined($precision));
  237.     return "smallint($precision)";
  238.   }
  239.   if ($type == DBI::SQL_FLOAT())
  240.   {
  241.     $precision=12 if (!defined($precision));
  242.     $scale=2 if (!defined($scale));
  243.     return "float($precision,$scale)";
  244.   }
  245.   if ($type == DBI::SQL_REAL())
  246.   {
  247.     $precision=12 if (!defined($precision));
  248.     $scale=2 if (!defined($scale));
  249.     return "float($precision,$scale)";
  250.   }
  251.   if ($type == DBI::SQL_DOUBLE())
  252.   {
  253.     $precision=22 if (!defined($precision));
  254.     $scale=2 if (!defined($scale));
  255.     return "double($precision,$scale)";
  256.   }
  257.   if ($type == DBI::SQL_VARCHAR())
  258.   {
  259.     $precision=255 if (!defined($precision));
  260.     return "varchar($precision)";
  261.   }
  262.   return "date"                if ($type == DBI::SQL_DATE());
  263.   return "time"                if ($type == DBI::SQL_TIME());
  264.   return "timestamp"            if ($type == DBI::SQL_TIMESTAMP());
  265.   return $server->{'text'}        if ($type == DBI::SQL_LONGVARCHAR());
  266.   return $server->{'blob'}        if ($type == DBI::SQL_LONGVARBINARY());
  267.   if ($type == DBI::SQL_BIGINT())
  268.   {
  269.     return "bigint" if (!defined($precision));
  270.     return "bigint($precision)";
  271.   }
  272.   if ($type == DBI::SQL_TINYINT())
  273.   {
  274.     return "tinyint" if (!defined($precision));
  275.     return "tinyint($precision)";
  276.   }
  277.   die "Can't covert type '$type' to a ODBC type\n";
  278. }
  279.  
  280. #
  281. # return an array with 1 for all coumns that we have to quote
  282. #
  283.                           
  284. sub get_columns_to_quote($sth)
  285. {
  286.   my ($sth)=@_;
  287.   my ($i,@res,$type,$tmp);
  288.  
  289.   @res=();
  290.   for ($i = 0; $i < $sth->{NUM_OF_FIELDS} ; $i++)
  291.   {
  292.     $type=$sth->{TYPE}->[$i];
  293.     $tmp=1;            # String by default
  294.     if ($type == DBI::SQL_NUMERIC()    || $type == DBI::SQL_DECIMAL() ||
  295.     $type == DBI::SQL_INTEGER()    || $type == DBI::SQL_SMALLINT() ||
  296.     $type == DBI::SQL_SMALLINT()    || $type == DBI::SQL_FLOAT() ||
  297.     $type == DBI::SQL_REAL()     || $type == DBI::SQL_DOUBLE() ||
  298.     $type == DBI::SQL_BIGINT()    || $type == DBI::SQL_TINYINT())
  299.     {
  300.       $tmp=0;
  301.     }
  302.     push (@res,$tmp);
  303.   }
  304.   return \@res;
  305. }
  306.  
  307. #
  308. # Check if table exists;  Return 1 if table exists
  309. #
  310.  
  311. sub table_exists
  312. {
  313.   my ($server,$dbh,$table)=@_;
  314.   if ($server->{'limits'}->{'group_functions'})
  315.   {
  316.     return !safe_query($dbh,"select count(*) from $table");
  317.   }
  318.   if ($server->{'limits'}->{'limit'})
  319.   {
  320.     return !safe_query($dbh,"select * from $table limit 1");
  321.   }
  322.   die "Don't know how to check if table '$table' exists in destination server\n";
  323. }
  324.  
  325.  
  326. #
  327. # execute query;  return 0 if query is ok
  328. #
  329.  
  330. sub safe_query
  331. {
  332.   my ($dbh,$query)=@_;
  333.   my ($sth);
  334.  
  335.   print "query: $query\n" if ($opt_debug);
  336.   if (!($sth= $dbh->prepare($query)))
  337.   {
  338.     print "error: $DBI::errstr\n" if ($opt_debug);
  339.     return 1;
  340.   }
  341.   if (!$sth->execute)
  342.   {
  343.     print "error: $DBI::errstr\n" if ($opt_debug);
  344.     return 1
  345.   }
  346.   while ($sth->fetchrow_arrayref)
  347.   {
  348.   }
  349.   $sth->finish;
  350.   undef($sth);
  351.   return 0;
  352. }
  353.  
  354. #
  355. # execute an array of queries
  356. #
  357.  
  358. sub do_many
  359. {
  360.   my ($dbh,@statements)=@_;
  361.   my ($statement,$sth);
  362.  
  363.   foreach $statement (@statements)
  364.   {
  365.     print "query: $statement\n" if ($opt_debug);
  366.     if (!($sth=$dbh->do($statement)))
  367.     {
  368.       die "Can't execute command '$statement'\nError: $DBI::errstr\n";
  369.     }
  370.   }
  371. }
  372.